文 | 上海交通大學黨委常委、副校長 蔣興浩

隨著大模型、生成式人工智能、智能體等技術的迭代創(chuàng)新，人工智能正在進入加速應用的新階段，由此引發(fā)的社會公平失衡、權益邊界模糊、安全隱患疊加等深層次擔憂將可能同步出現(xiàn)。前期，相關人工智能治理實踐已為人工智能應用治理奠定了重要基礎。隨著人工智能進入加速應用新階段，亟需構建統(tǒng)一的人工智能應用倫理安全準則與行業(yè)規(guī)范，強化底線約束與合規(guī)行為引導。

近日，全國網(wǎng)絡安全標準化技術委員會組織制定的技術文件《人工智能應用倫理安全指引1.0》（以下簡稱《指引》）正式發(fā)布。作為回應人工智能技術應用新階段相關倫理安全挑戰(zhàn)的重要文件，《指引》旨在統(tǒng)籌發(fā)展與安全，為人工智能應用相關方提供明確的行動指南，對于保障人工智能健康有序發(fā)展具有重要意義。

一、直面風險挑戰(zhàn)，明確人工智能應用倫理安全基本框架

（一）鮮明提出人工智能應用倫理安全核心理念

《指引》提出“造福人類、服務社會和可持續(xù)發(fā)展”的核心理念，將應用倫理安全要求貫穿人工智能應用全過程，妥善處理人工智能與人、社會、自然的關系，保障人工智能始終服務于增進人類共同福祉。有別于可解釋人工智能、可信人工智能等傳統(tǒng)概念，這一表述適應人工智能應用過程中的鮮明特征，聚焦人工智能與人、社會、自然相互嵌入和相互影響的內(nèi)在復雜性，提出了人工智能應用倫理安全的核心原則，從頂層設計上為人工智能發(fā)展錨定了向善航向，確保技術進步始終服務于人類根本利益，有助于防范人工智能應用偏離以人為本、智能向善的發(fā)展方向。

（二）精準識別六大應用倫理安全影響

《指引》首先深入剖析了人工智能應用可能帶來的六方面?zhèn)惱戆踩绊懀阂皇侨祟愔鲗嘤绊?，可能導致人類在社會運行和治理過程中的主導地位受到?jīng)_擊；二是公共秩序影響，可能削弱維系社會正常運行的基本信任機制；三是個體認知與社會價值影響，過度依賴可能導致個體與現(xiàn)實社會脫節(jié)；四是社會分化和歧視影響，可能放大偏見與歧視；五是生命健康與基本權益影響，可能對生命健康、隱私、財產(chǎn)等權益造成侵害；六是可持續(xù)生態(tài)影響，可能會帶來系統(tǒng)性生態(tài)壓力。這六方面安全影響適配于人工智能應用新階段的精準定位，不僅反映了人工智能具體應用場景下的具體風險點，更聚焦于應用過程中對人類社會潛移默化的長遠影響。在此基礎上，《指引》著眼于人工智能引致社會變遷的宏大格局，為后續(xù)制定原則和場景指引提供了精準靶向，推動相關治理措施直面痛點、有的放矢。

（三）系統(tǒng)確立九大應用倫理安全原則

為了將理念轉化為可執(zhí)行的行動準則，《指引》提出了九大倫理安全原則：增進人類福祉、尊重生命權利、堅持公平公正、合理控制風險、保持公開透明、保護隱私安全、確?？煽乜尚拧⒚艚莨仓魏推栈莨蚕?。這些原則構成了人工智能應用倫理安全治理的基石，形成了體系性的治理框架。第一，在一貫強調“以人為本”的原則下，特別指出了人工智能應用應服務于人類社會需求、主導權歸屬人類的價值引導。在技術創(chuàng)新領域，鼓勵人工智能多方向的自由探索；而在技術應用過程中，需要強調將“以人為本”作為方向來引導人工智能的開發(fā)部署。第二，在人工智能應用階段體現(xiàn)了“發(fā)展與安全并重”的治理思路，同時突出了體現(xiàn)該思路的敏捷共治等具體機制，有利于形成合作共生、能力共建、收益共享的人工智能生態(tài)。第三，“普惠共享”成為人工智能應用的重要目標，這不僅包括技術供給端的開源開放，也包括需求端對人工智能全民素養(yǎng)的重視提升。這九大原則共同構建了立體、完整的價值防護網(wǎng)，不僅為行業(yè)提供了清晰的行為準繩，降低了合規(guī)的不確定性，還為可能的應用倫理沖突提供了優(yōu)先級判斷依據(jù)，有效平衡了創(chuàng)新發(fā)展與安全底線。

二、覆蓋多元場景，實施差異化治理策略

（一）確立全流程通用指引

《指引》提供了兼具通用指引和分場景指引的“統(tǒng)分”結合新框架。通用指引是跨領域的一般性原則，涵蓋了人工智能應用倫理安全的共性要求，具體包括應用前的影響評估、符合國情與社會價值規(guī)范體系、正確認識人工智能的應用邊界、保留關鍵環(huán)節(jié)的人類判斷、重視隱私和個人信息保護、關注偏見和歧視、全面提升人工智能應用倫理素養(yǎng)水平等。需要注意的是，這些通用指引有一個共性特征，即超越了針對人工智能技術本身的規(guī)制，進而擴展到對人工智能與社會整體關系的引導與規(guī)范。

（二）細化關鍵場景治理導向

針對部分特定場景，《指引》給出了差異化的治理建議。例如，在涉及生命健康與人身安全的場景中，堅持以人為本、安全優(yōu)先、審慎適用。在社會治理與公共服務場景中，堅持公共利益優(yōu)先、依法合規(guī)，公平公正，保障公眾知情、質疑、復核與救濟渠道有效暢通。此外，對信息資訊與傳播、知識發(fā)現(xiàn)與生產(chǎn)、金融活動等場景，也分別提出了堅持真實可信與清朗生態(tài)導向、堅持求真務實、堅持穩(wěn)健審慎等具體導向，體現(xiàn)了精準施策的治理智慧。

（三）強化重點群體保護機制

在通用指引與場景化指引中，《指引》均特別強調對未成年人、老年人、殘障人士等易受影響群體保護，避免人工智能應用造成使用機會不公平或加劇既有不公。例如，在應用開發(fā)環(huán)節(jié)，為易受影響群體采取專門設計考量；在服務提供環(huán)節(jié)，提升部署方式的便利性等。這充分體現(xiàn)了技術發(fā)展不僅追求效率、更兼顧社會公平與人文關懷的倫理價值。

三、壓實主體責任，構建全鏈條治理閉環(huán)

（一）強化應用開發(fā)者源頭治理責任

《指引》針對應用開發(fā)環(huán)節(jié)提出，將安全可控、公平公正、隱私保護等倫理安全要求作為默認設置，推動應用開發(fā)者理性引導社會認知，避免單純以性能或效率目標驅動迭代優(yōu)化，從源頭上防范技術失控風險。針對具備高度自主性的人工智能應用，應用開發(fā)者需評估其失控風險，同時對缺乏依據(jù)或者存在較大不確定性的輸出作出必要管控以及提示說明，提高應用開發(fā)過程透明度，并設置事故信息回溯機制，確保責任可追溯。

（二）規(guī)范服務提供者運營過程管控

服務提供者作為連接技術與用戶的橋梁，其責任被進一步壓實。《指引》倡導其及時提示可能風險，在關鍵領域場景進行重要決策時，人工智能宜僅承擔輔助決策作用、不提供直接決策依據(jù)。此外，服務提供者需規(guī)范保護使用者隱私和個人信息，以清楚明確且便于操作的方式向使用者提供拒絕、干預及停止使用人工智能服務的機制，盡量減少對使用者隱私和敏感個人信息的處理，持續(xù)監(jiān)控人工智能應用服務過程并識別風險，設置事故應急處置機制，確保在風險發(fā)生時能及時響應，保障用戶的選擇權與安全權。

（三）提升使用者素養(yǎng)與合規(guī)使用意識

《指引》不僅規(guī)范了供給側，也對使用者的行為提出了指引。例如，建議使用者保持自主判斷與適度使用，形成理性、審慎的使用習慣；避免過度依賴、過度沉迷人工智能情感服務，妥善、合法地運用人工智能；在使用人工智能時，妥善保護自身敏感信息，積極履行人工智能生成合成內(nèi)容標識等相關義務，及時反饋倫理安全風險。這些均體現(xiàn)了“多方參與、協(xié)同共治”的治理理念。

總而言之，《指引》通過系統(tǒng)識別倫理安全影響、確立核心原則、細化場景指引并壓實各方責任，為人工智能應用開發(fā)者、服務提供者和應用使用者提供了一套系統(tǒng)性的行動指南。同時需要看到，人工智能還在快速演化，當前的《指引》還只是1.0版本，未來將隨著技術發(fā)展應用而持續(xù)更新完善。推動《指引》迭代更新、落地落實、發(fā)揮實效，有助于更好防范人工智能應用過程中的倫理安全風險，推動人工智能技術由技術邏輯向價值邏輯轉變，真正實現(xiàn)技術造福人類的美好愿景。

（來源：全國網(wǎng)安標委）