原標(biāo)題：專家解讀｜秉持以人為本 統(tǒng)籌發(fā)展與安全

　　隨著大模型、生成式人工智能、智能體等技術(shù)的迭代創(chuàng)新，人工智能正在進(jìn)入加速應(yīng)用的新階段，由此引發(fā)的社會公平失衡、權(quán)益邊界模糊、安全隱患疊加等深層次擔(dān)憂將可能同步出現(xiàn)。前期，相關(guān)人工智能治理實(shí)踐已為人工智能應(yīng)用治理奠定了重要基礎(chǔ)。隨著人工智能進(jìn)入加速應(yīng)用新階段，亟需構(gòu)建統(tǒng)一的人工智能應(yīng)用倫理安全準(zhǔn)則與行業(yè)規(guī)范，強(qiáng)化底線約束與合規(guī)行為引導(dǎo)。

　　近日，全國網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會組織制定的技術(shù)文件《人工智能應(yīng)用倫理安全指引1.0》（以下簡稱《指引》）正式發(fā)布。作為回應(yīng)人工智能技術(shù)應(yīng)用新階段相關(guān)倫理安全挑戰(zhàn)的重要文件，《指引》旨在統(tǒng)籌發(fā)展與安全，為人工智能應(yīng)用相關(guān)方提供明確的行動指南，對于保障人工智能健康有序發(fā)展具有重要意義。

　　一、直面風(fēng)險(xiǎn)挑戰(zhàn)，明確人工智能應(yīng)用倫理安全基本框架

　　（一）鮮明提出人工智能應(yīng)用倫理安全核心理念

　　《指引》提出“造福人類、服務(wù)社會和可持續(xù)發(fā)展”的核心理念，將應(yīng)用倫理安全要求貫穿人工智能應(yīng)用全過程，妥善處理人工智能與人、社會、自然的關(guān)系，保障人工智能始終服務(wù)于增進(jìn)人類共同福祉。有別于可解釋人工智能、可信人工智能等傳統(tǒng)概念，這一表述適應(yīng)人工智能應(yīng)用過程中的鮮明特征，聚焦人工智能與人、社會、自然相互嵌入和相互影響的內(nèi)在復(fù)雜性，提出了人工智能應(yīng)用倫理安全的核心原則，從頂層設(shè)計(jì)上為人工智能發(fā)展錨定了向善航向，確保技術(shù)進(jìn)步始終服務(wù)于人類根本利益，有助于防范人工智能應(yīng)用偏離以人為本、智能向善的發(fā)展方向。

　　（二）精準(zhǔn)識別六大應(yīng)用倫理安全影響

　　《指引》首先深入剖析了人工智能應(yīng)用可能帶來的六方面?zhèn)惱戆踩绊懀阂皇侨祟愔鲗?dǎo)權(quán)影響，可能導(dǎo)致人類在社會運(yùn)行和治理過程中的主導(dǎo)地位受到?jīng)_擊；二是公共秩序影響，可能削弱維系社會正常運(yùn)行的基本信任機(jī)制；三是個(gè)體認(rèn)知與社會價(jià)值影響，過度依賴可能導(dǎo)致個(gè)體與現(xiàn)實(shí)社會脫節(jié)；四是社會分化和歧視影響，可能放大偏見與歧視；五是生命健康與基本權(quán)益影響，可能對生命健康、隱私、財(cái)產(chǎn)等權(quán)益造成侵害；六是可持續(xù)生態(tài)影響，可能會帶來系統(tǒng)性生態(tài)壓力。這六方面安全影響適配于人工智能應(yīng)用新階段的精準(zhǔn)定位，不僅反映了人工智能具體應(yīng)用場景下的具體風(fēng)險(xiǎn)點(diǎn)，更聚焦于應(yīng)用過程中對人類社會潛移默化的長遠(yuǎn)影響。在此基礎(chǔ)上，《指引》著眼于人工智能引致社會變遷的宏大格局，為后續(xù)制定原則和場景指引提供了精準(zhǔn)靶向，推動相關(guān)治理措施直面痛點(diǎn)、有的放矢。

　　（三）系統(tǒng)確立九大應(yīng)用倫理安全原則

　　為了將理念轉(zhuǎn)化為可執(zhí)行的行動準(zhǔn)則，《指引》提出了九大倫理安全原則：增進(jìn)人類福祉、尊重生命權(quán)利、堅(jiān)持公平公正、合理控制風(fēng)險(xiǎn)、保持公開透明、保護(hù)隱私安全、確?？煽乜尚?、敏捷共治和普惠共享。這些原則構(gòu)成了人工智能應(yīng)用倫理安全治理的基石，形成了體系性的治理框架。第一，在一貫強(qiáng)調(diào)“以人為本”的原則下，特別指出了人工智能應(yīng)用應(yīng)服務(wù)于人類社會需求、主導(dǎo)權(quán)歸屬人類的價(jià)值引導(dǎo)。在技術(shù)創(chuàng)新領(lǐng)域，鼓勵(lì)人工智能多方向的自由探索；而在技術(shù)應(yīng)用過程中，需要強(qiáng)調(diào)將“以人為本”作為方向來引導(dǎo)人工智能的開發(fā)部署。第二，在人工智能應(yīng)用階段體現(xiàn)了“發(fā)展與安全并重”的治理思路，同時(shí)突出了體現(xiàn)該思路的敏捷共治等具體機(jī)制，有利于形成合作共生、能力共建、收益共享的人工智能生態(tài)。第三，“普惠共享”成為人工智能應(yīng)用的重要目標(biāo)，這不僅包括技術(shù)供給端的開源開放，也包括需求端對人工智能全民素養(yǎng)的重視提升。這九大原則共同構(gòu)建了立體、完整的價(jià)值防護(hù)網(wǎng)，不僅為行業(yè)提供了清晰的行為準(zhǔn)繩，降低了合規(guī)的不確定性，還為可能的應(yīng)用倫理沖突提供了優(yōu)先級判斷依據(jù)，有效平衡了創(chuàng)新發(fā)展與安全底線。

　　二、覆蓋多元場景，實(shí)施差異化治理策略

　　（一）確立全流程通用指引

　　《指引》提供了兼具通用指引和分場景指引的“統(tǒng)分”結(jié)合新框架。通用指引是跨領(lǐng)域的一般性原則，涵蓋了人工智能應(yīng)用倫理安全的共性要求，具體包括應(yīng)用前的影響評估、符合國情與社會價(jià)值規(guī)范體系、正確認(rèn)識人工智能的應(yīng)用邊界、保留關(guān)鍵環(huán)節(jié)的人類判斷、重視隱私和個(gè)人信息保護(hù)、關(guān)注偏見和歧視、全面提升人工智能應(yīng)用倫理素養(yǎng)水平等。需要注意的是，這些通用指引有一個(gè)共性特征，即超越了針對人工智能技術(shù)本身的規(guī)制，進(jìn)而擴(kuò)展到對人工智能與社會整體關(guān)系的引導(dǎo)與規(guī)范。

　　（二）細(xì)化關(guān)鍵場景治理導(dǎo)向

　　針對部分特定場景，《指引》給出了差異化的治理建議。例如，在涉及生命健康與人身安全的場景中，堅(jiān)持以人為本、安全優(yōu)先、審慎適用。在社會治理與公共服務(wù)場景中，堅(jiān)持公共利益優(yōu)先、依法合規(guī)，公平公正，保障公眾知情、質(zhì)疑、復(fù)核與救濟(jì)渠道有效暢通。此外，對信息資訊與傳播、知識發(fā)現(xiàn)與生產(chǎn)、金融活動等場景，也分別提出了堅(jiān)持真實(shí)可信與清朗生態(tài)導(dǎo)向、堅(jiān)持求真務(wù)實(shí)、堅(jiān)持穩(wěn)健審慎等具體導(dǎo)向，體現(xiàn)了精準(zhǔn)施策的治理智慧。

　　（三）強(qiáng)化重點(diǎn)群體保護(hù)機(jī)制

　　在通用指引與場景化指引中，《指引》均特別強(qiáng)調(diào)對未成年人、老年人、殘障人士等易受影響群體保護(hù)，避免人工智能應(yīng)用造成使用機(jī)會不公平或加劇既有不公。例如，在應(yīng)用開發(fā)環(huán)節(jié)，為易受影響群體采取專門設(shè)計(jì)考量；在服務(wù)提供環(huán)節(jié)，提升部署方式的便利性等。這充分體現(xiàn)了技術(shù)發(fā)展不僅追求效率、更兼顧社會公平與人文關(guān)懷的倫理價(jià)值。

　　三、壓實(shí)主體責(zé)任，構(gòu)建全鏈條治理閉環(huán)

　　（一）強(qiáng)化應(yīng)用開發(fā)者源頭治理責(zé)任

　　《指引》針對應(yīng)用開發(fā)環(huán)節(jié)提出，將安全可控、公平公正、隱私保護(hù)等倫理安全要求作為默認(rèn)設(shè)置，推動應(yīng)用開發(fā)者理性引導(dǎo)社會認(rèn)知，避免單純以性能或效率目標(biāo)驅(qū)動迭代優(yōu)化，從源頭上防范技術(shù)失控風(fēng)險(xiǎn)。針對具備高度自主性的人工智能應(yīng)用，應(yīng)用開發(fā)者需評估其失控風(fēng)險(xiǎn)，同時(shí)對缺乏依據(jù)或者存在較大不確定性的輸出作出必要管控以及提示說明，提高應(yīng)用開發(fā)過程透明度，并設(shè)置事故信息回溯機(jī)制，確保責(zé)任可追溯。

　　（二）規(guī)范服務(wù)提供者運(yùn)營過程管控

　　服務(wù)提供者作為連接技術(shù)與用戶的橋梁，其責(zé)任被進(jìn)一步壓實(shí)?！吨敢烦珜?dǎo)其及時(shí)提示可能風(fēng)險(xiǎn)，在關(guān)鍵領(lǐng)域場景進(jìn)行重要決策時(shí)，人工智能宜僅承擔(dān)輔助決策作用、不提供直接決策依據(jù)。此外，服務(wù)提供者需規(guī)范保護(hù)使用者隱私和個(gè)人信息，以清楚明確且便于操作的方式向使用者提供拒絕、干預(yù)及停止使用人工智能服務(wù)的機(jī)制，盡量減少對使用者隱私和敏感個(gè)人信息的處理，持續(xù)監(jiān)控人工智能應(yīng)用服務(wù)過程并識別風(fēng)險(xiǎn)，設(shè)置事故應(yīng)急處置機(jī)制，確保在風(fēng)險(xiǎn)發(fā)生時(shí)能及時(shí)響應(yīng)，保障用戶的選擇權(quán)與安全權(quán)。

　　（三）提升使用者素養(yǎng)與合規(guī)使用意識

　　《指引》不僅規(guī)范了供給側(cè)，也對使用者的行為提出了指引。例如，建議使用者保持自主判斷與適度使用，形成理性、審慎的使用習(xí)慣；避免過度依賴、過度沉迷人工智能情感服務(wù)，妥善、合法地運(yùn)用人工智能；在使用人工智能時(shí)，妥善保護(hù)自身敏感信息，積極履行人工智能生成合成內(nèi)容標(biāo)識等相關(guān)義務(wù)，及時(shí)反饋倫理安全風(fēng)險(xiǎn)。這些均體現(xiàn)了“多方參與、協(xié)同共治”的治理理念。

　　總而言之，《指引》通過系統(tǒng)識別倫理安全影響、確立核心原則、細(xì)化場景指引并壓實(shí)各方責(zé)任，為人工智能應(yīng)用開發(fā)者、服務(wù)提供者和應(yīng)用使用者提供了一套系統(tǒng)性的行動指南。同時(shí)需要看到，人工智能還在快速演化，當(dāng)前的《指引》還只是1.0版本，未來將隨著技術(shù)發(fā)展應(yīng)用而持續(xù)更新完善。推動《指引》迭代更新、落地落實(shí)、發(fā)揮實(shí)效，有助于更好防范人工智能應(yīng)用過程中的倫理安全風(fēng)險(xiǎn)，推動人工智能技術(shù)由技術(shù)邏輯向價(jià)值邏輯轉(zhuǎn)變，真正實(shí)現(xiàn)技術(shù)造福人類的美好愿景。（作者：蔣興浩，上海交通大學(xué)黨委常委、副校長）