原標(biāo)題：專(zhuān)家解讀｜推動(dòng)人工智能創(chuàng)新發(fā)展行穩(wěn)致遠(yuǎn) 筑牢倫理安全治理屏障

　　近年來(lái)，人工智能深度融入經(jīng)濟(jì)社會(huì)各領(lǐng)域，深刻改變?nèi)祟?lèi)生產(chǎn)生活方式。同時(shí)，算法偏見(jiàn)、隱私泄露、濫用風(fēng)險(xiǎn)等倫理安全問(wèn)題愈發(fā)突出，侵害個(gè)人權(quán)益、擾亂社會(huì)秩序甚至危害國(guó)家安全風(fēng)險(xiǎn)不斷上升。習(xí)近平總書(shū)記高度重視人工智能治理，強(qiáng)調(diào)要把握人工智能發(fā)展趨勢(shì)和規(guī)律，加緊制定完善相關(guān)法律法規(guī)、政策制度、應(yīng)用規(guī)范、倫理準(zhǔn)則。近日，全國(guó)網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)發(fā)布《人工智能應(yīng)用倫理安全指引1.0》（以下簡(jiǎn)稱(chēng)《指引》），系統(tǒng)劃定人工智能應(yīng)用倫理安全邊界與底線(xiàn)，為人工智能健康有序、安全可控、向善發(fā)展提供規(guī)范化依據(jù)與實(shí)操性遵循。

　　一、統(tǒng)籌發(fā)展與安全，健全中國(guó)特色人工智能倫理安全治理體系

　　我國(guó)立足國(guó)情與治理實(shí)踐，防范化解人工智能倫理安全風(fēng)險(xiǎn)，逐步構(gòu)建以頂層設(shè)計(jì)為引領(lǐng)、柔性指引與剛性規(guī)制協(xié)同的中國(guó)特色人工智能倫理安全治理體系。柔性指引層面，先后出臺(tái)《新一代人工智能倫理規(guī)范》《關(guān)于加強(qiáng)科技倫理治理的意見(jiàn)》以及《人工智能安全治理框架》1.0版、2.0版，將倫理要求嵌入人工智能全生命周期，系統(tǒng)防范安全風(fēng)險(xiǎn)。剛性規(guī)制層面，通過(guò)《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》《人工智能擬人化互動(dòng)服務(wù)管理暫行辦法》以及新修訂的《中華人民共和國(guó)網(wǎng)絡(luò)安全法》，完善倫理安全規(guī)范、強(qiáng)化風(fēng)險(xiǎn)監(jiān)測(cè)評(píng)估與合規(guī)監(jiān)管。在頂層統(tǒng)籌層面，我國(guó)依托科技倫理治理、網(wǎng)絡(luò)信息治理、產(chǎn)業(yè)治理等多方面機(jī)制，推動(dòng)形成多部門(mén)協(xié)同、社會(huì)各方參與的治理格局，通過(guò)《全球人工智能治理倡議》參與全球治理，通過(guò)《國(guó)務(wù)院關(guān)于深入實(shí)施“人工智能+”行動(dòng)的意見(jiàn)》進(jìn)一步探索形成智能向善理論體系。

　　我國(guó)人工智能倫理安全治理體系持續(xù)健全完善，倫理風(fēng)險(xiǎn)防控加速?gòu)闹贫葘用嬷鸩阶呦驅(qū)嵺`落地，現(xiàn)階段仍面臨諸多現(xiàn)實(shí)堵點(diǎn)與突出難題。人工智能加速賦能千行百業(yè)，出臺(tái)《指引》既是推動(dòng)人工智能規(guī)范合規(guī)、健康有序發(fā)展的內(nèi)在要求，也是有效防范化解人工智能應(yīng)用層面?zhèn)惱戆踩L(fēng)險(xiǎn)的現(xiàn)實(shí)舉措。

　　一是筑牢倫理安全防線(xiàn)，保障人工智能健康有序發(fā)展。《指引》的出臺(tái)，立足人工智能發(fā)展新階段，圍繞人類(lèi)主導(dǎo)權(quán)、公共秩序、個(gè)體認(rèn)知與社會(huì)價(jià)值、可持續(xù)生態(tài)影響等重點(diǎn)方向，系統(tǒng)提出倫理安全理念、原則與行為規(guī)范，有助于推動(dòng)人工智能在可控、可靠、安全軌道上發(fā)展，防止技術(shù)異化和失控濫用，確保人工智能始終服務(wù)于人類(lèi)共同福祉、服務(wù)經(jīng)濟(jì)社會(huì)發(fā)展。

　　二是規(guī)范產(chǎn)業(yè)發(fā)展秩序，推動(dòng)人工智能負(fù)責(zé)任創(chuàng)新。《指引》圍繞應(yīng)用開(kāi)發(fā)、服務(wù)提供、應(yīng)用使用等全鏈條提出明確要求，強(qiáng)調(diào)將以人為本、生命至上、公平公正、公開(kāi)透明、可控可信等倫理安全要求貫穿人工智能應(yīng)用活動(dòng)全過(guò)程，推動(dòng)企業(yè)在技術(shù)創(chuàng)新和產(chǎn)業(yè)應(yīng)用過(guò)程中更加注重倫理安全責(zé)任與治理。這既有助于營(yíng)造規(guī)范有序、健康可持續(xù)的產(chǎn)業(yè)生態(tài)，也有利于推動(dòng)人工智能產(chǎn)業(yè)在規(guī)范有序中實(shí)現(xiàn)更高質(zhì)量發(fā)展，進(jìn)一步提升產(chǎn)業(yè)創(chuàng)新能力、應(yīng)用水平和社會(huì)信任度。

　　三是提升全民使用素養(yǎng)，防范技術(shù)濫用風(fēng)險(xiǎn)。《指引》強(qiáng)調(diào)正確認(rèn)識(shí)人工智能的能力邊界和潛在影響，倡導(dǎo)增強(qiáng)自主判斷、妥善運(yùn)用人工智能，明確提出提升公眾對(duì)虛假錯(cuò)誤信息、誤導(dǎo)性?xún)?nèi)容和倫理安全風(fēng)險(xiǎn)的識(shí)別能力。同時(shí)，《指引》鼓勵(lì)建立風(fēng)險(xiǎn)提示、投訴舉報(bào)、反饋糾偏等機(jī)制，推動(dòng)形成政府、企業(yè)、社會(huì)公眾多方參與的協(xié)同治理格局，有助于提升全民人工智能應(yīng)用素養(yǎng)和風(fēng)險(xiǎn)防范意識(shí)，減少技術(shù)濫用對(duì)社會(huì)造成的不良影響。

　　二、強(qiáng)化技術(shù)指引，全方位筑牢倫理安全防線(xiàn)

　　一是為各應(yīng)用主體提供明確行為準(zhǔn)則。《指引》圍繞應(yīng)用開(kāi)發(fā)者、服務(wù)提供者和應(yīng)用使用者三類(lèi)主體，分別提出系統(tǒng)性規(guī)范要求，明確人工智能研發(fā)、部署、運(yùn)營(yíng)、使用全過(guò)程中的責(zé)任邊界和行為要求。在開(kāi)發(fā)環(huán)節(jié)，強(qiáng)調(diào)提升可控性、公平性、透明度等目標(biāo)貫穿應(yīng)用開(kāi)發(fā)與更新，要求開(kāi)發(fā)者開(kāi)展倫理安全影響評(píng)估、設(shè)置事故信息追溯機(jī)制；在服務(wù)提供環(huán)節(jié)，強(qiáng)調(diào)理性引導(dǎo)、隱私保護(hù)、風(fēng)險(xiǎn)提示和應(yīng)急處置；在應(yīng)用使用環(huán)節(jié)，倡導(dǎo)妥善運(yùn)用、審慎提供敏感信息、尊重他人合法權(quán)益。通過(guò)建立全鏈條責(zé)任體系，《指引》有助于推動(dòng)各主體形成規(guī)范意識(shí)和責(zé)任意識(shí)，減少人工智能應(yīng)用活動(dòng)中的倫理安全失范行為。

　　二是防范化解人工智能倫理安全風(fēng)險(xiǎn)。人工智能風(fēng)險(xiǎn)具有復(fù)雜性、隱蔽性、擴(kuò)散性和外溢性等特點(diǎn)，一旦失控，可能對(duì)個(gè)人、社會(huì)乃至國(guó)家層面造成較大影響?！吨敢肪劢谷斯ぶ悄芸赡軒?lái)的人類(lèi)主導(dǎo)權(quán)弱化、社會(huì)秩序影響、價(jià)值體系沖擊、偏見(jiàn)歧視、合法權(quán)益侵害、可持續(xù)生態(tài)壓力等問(wèn)題，提出覆蓋事前預(yù)防、事中監(jiān)測(cè)、事后處置的系統(tǒng)性治理要求。例如，《指引》要求建立必要的應(yīng)急處置與人工干預(yù)機(jī)制，防范人工智能脫離人類(lèi)監(jiān)督；要求持續(xù)監(jiān)控服務(wù)及運(yùn)行過(guò)程，識(shí)別發(fā)現(xiàn)倫理安全風(fēng)險(xiǎn)并及時(shí)處置；要求設(shè)置事故信息追溯機(jī)制，實(shí)現(xiàn)責(zé)任追溯。這些措施有助于提升人工智能風(fēng)險(xiǎn)治理能力，增強(qiáng)技術(shù)應(yīng)用的安全性和可控性。

　　三是引導(dǎo)人工智能向善發(fā)展。《指引》堅(jiān)持以人為本、智能向善的理念，強(qiáng)調(diào)人工智能應(yīng)服務(wù)于經(jīng)濟(jì)社會(huì)發(fā)展和人民福祉提升，而非削弱人的主體地位或加劇社會(huì)不公?！吨敢窂?qiáng)調(diào)公平包容、機(jī)會(huì)均等和普惠共享，關(guān)注未成年人、老年人、殘障人士等重點(diǎn)群體權(quán)益，倡導(dǎo)人工智能提升公共服務(wù)公平性與可及性。同時(shí)，鼓勵(lì)開(kāi)源創(chuàng)新、知識(shí)共享和多元技術(shù)路徑探索，推動(dòng)人工智能應(yīng)用成果更廣泛惠及社會(huì)公眾。這有助于推動(dòng)人工智能技術(shù)始終與社會(huì)公共利益保持一致，引導(dǎo)人工智能始終堅(jiān)守正向價(jià)值、堅(jiān)持向善發(fā)展。

　　四是完善倫理安全協(xié)同治理體系。人工智能治理是一項(xiàng)系統(tǒng)工程，既涉及法律法規(guī)、倫理規(guī)范、技術(shù)標(biāo)準(zhǔn)，也涉及社會(huì)監(jiān)督、國(guó)際合作和公眾參與?！吨敢吩诶砟顚用嫣岢雒艚莨仓?、協(xié)同治理等原則，在實(shí)踐層面提出倫理安全評(píng)估、風(fēng)險(xiǎn)監(jiān)測(cè)、信息提示、投訴反饋等制度安排，為構(gòu)建我國(guó)人工智能倫理安全治理體系提供了重要補(bǔ)充。同時(shí)，《指引》強(qiáng)調(diào)加強(qiáng)國(guó)際銜接與安全互認(rèn)，推動(dòng)治理規(guī)則、技術(shù)標(biāo)準(zhǔn)和安全基準(zhǔn)兼容互洽、同步演進(jìn)，有助于提升我國(guó)在全球人工智能治理中的活躍度和影響力，推動(dòng)形成開(kāi)放、合作、共贏的人工智能治理格局。

　　三、構(gòu)建協(xié)同共進(jìn)發(fā)展格局，護(hù)航人工智能高質(zhì)量發(fā)展

　　一是規(guī)范人工智能產(chǎn)業(yè)發(fā)展。《指引》的出臺(tái)有助于進(jìn)一步規(guī)范人工智能產(chǎn)業(yè)發(fā)展秩序，推動(dòng)行業(yè)從重速度、重規(guī)模向重質(zhì)量、重安全、重責(zé)任轉(zhuǎn)變。通過(guò)明確倫理安全要求和風(fēng)險(xiǎn)防控機(jī)制，減少無(wú)序競(jìng)爭(zhēng)、低水平重復(fù)建設(shè)以及因安全問(wèn)題導(dǎo)致的產(chǎn)業(yè)風(fēng)險(xiǎn)，增強(qiáng)市場(chǎng)主體的合規(guī)意識(shí)和長(zhǎng)期發(fā)展能力。同時(shí)，統(tǒng)一規(guī)范有助于增強(qiáng)社會(huì)公眾和市場(chǎng)對(duì)人工智能產(chǎn)品與服務(wù)的信任度，推動(dòng)人工智能實(shí)現(xiàn)規(guī)范、有序、可持續(xù)發(fā)展。

　　二是推進(jìn)人工智能創(chuàng)新生態(tài)建設(shè)。《指引》并非限制技術(shù)創(chuàng)新，而是強(qiáng)調(diào)安全與發(fā)展并重，推動(dòng)技術(shù)創(chuàng)新更加注重長(zhǎng)期價(jià)值和社會(huì)責(zé)任。通過(guò)將可控可信、公平公正、隱私保護(hù)等要求前置到研發(fā)和設(shè)計(jì)階段，有助于推動(dòng)可信人工智能、隱私計(jì)算、可解釋算法、安全評(píng)測(cè)等關(guān)鍵技術(shù)發(fā)展。同時(shí)，《指引》鼓勵(lì)開(kāi)源生態(tài)建設(shè)、多元技術(shù)探索和協(xié)同創(chuàng)新，有利于形成更加開(kāi)放包容、健康可持續(xù)的人工智能創(chuàng)新生態(tài)，提升我國(guó)人工智能核心競(jìng)爭(zhēng)力。

　　三是提升智能化社會(huì)治理水平。人工智能正在深刻改變社會(huì)治理模式?！吨敢酚兄谕苿?dòng)人工智能在醫(yī)療健康、信息傳播、科研教育等領(lǐng)域規(guī)范應(yīng)用，在提升治理效率和治理能力的同時(shí)，防止自動(dòng)決策失當(dāng)、信息操縱、侵害知識(shí)產(chǎn)權(quán)等問(wèn)題影響人身安全和社會(huì)公平。特別是在社會(huì)治理、公共服務(wù)等關(guān)鍵領(lǐng)域，《指引》強(qiáng)調(diào)普惠可及、程序正當(dāng)、結(jié)果復(fù)核和公眾救濟(jì)機(jī)制，有助于維護(hù)社會(huì)公平正義，提升現(xiàn)代化治理能力和治理公信力。

　　四是健全公眾權(quán)益保護(hù)機(jī)制。《指引》更加突出對(duì)個(gè)人合法權(quán)益的保護(hù)，圍繞隱私保護(hù)、個(gè)人信息安全、知情權(quán)、選擇權(quán)、申訴權(quán)等提出明確要求，有助于增強(qiáng)公眾在人工智能時(shí)代的安全感和獲得感。同時(shí)，《指引》強(qiáng)調(diào)妥善運(yùn)用使用人工智能，防范過(guò)度依賴(lài)、沉迷使用、虛假信息誤導(dǎo)等問(wèn)題，并要求加強(qiáng)未成年人、老年人、殘障人士等重點(diǎn)群體保護(hù)。這有助于推動(dòng)形成安全、可信、健康的人工智能應(yīng)用環(huán)境，更好保障人民群眾合法權(quán)益。（作者：劉博，國(guó)家互聯(lián)網(wǎng)應(yīng)急中心黨委副書(shū)記、副主任）