文 | 南開大學國家治理研究院院長、中國式現代化發(fā)展研究院高級研究員 吳曉林

近日，國家網信辦、國家發(fā)展改革委、工業(yè)和信息化部聯合印發(fā)《智能體規(guī)范應用與創(chuàng)新發(fā)展實施意見》（以下簡稱《實施意見》），明確支持探索智能體在城市規(guī)劃、建設與治理環(huán)節(jié)的規(guī)范應用，同時將智能體安全、可靠、可信作為產業(yè)發(fā)展的底線要求。

當前，以手機助手、終端智能管家、云端智能體等為代表的智能體產品加速涌現，呈現規(guī)模化應用態(tài)勢，極大便利了人們的工作生活。智能體的廣泛使用，使得各類風險能被快速感知、及時處置，城市也變得更加“聰明”、更有韌性。例如，上海警方首創(chuàng)的“交通治堵大模型”已在全市360個路口部署應用，平均車速提升12.9%；北京街道10萬余井蓋、地下6800余公里管道全部接入智慧巡檢系統，智能井蓋一旦監(jiān)測到異常沉降，30秒內自動報警；天津中新生態(tài)城搭建起智能感知網絡，可精準識別道路污染、建筑垃圾傾倒等行為，并實時上報預警信息，如同24小時在崗的“虛擬哨兵”。這樣的智能體應用，在全國各類城市已經越來越多了。

然而，技術跑得太快，也會讓人心有疑慮。智能體的權限會不會越界？決策是否有效？如果決策出了問題誰來負責？隱私數據會不會“裸奔”？這些問題，老百姓關心，城市管理者更得放在心上。技術更新迭代速度快，制度建設跟不上，就會產生大量隱患。城市治理不是智能體的實驗室，它關系著千家萬戶的切身利益，一旦出了問題，所帶來的破壞和損失往往難以估量。在這方面，國外已有前車之鑒。

這給我們提了個醒，智能體本身不是問題，真正的問題在于缺少“制度護欄”。當智能體幫我們提供服務時，它調用的數據是否必要、依據了什么規(guī)則，決策錯了得糾偏問責；城市大腦調配信號燈時，算法偏差了得有人及時“踩剎車”；無人機飛越上空時，不能侵犯他人隱私和侵擾他人生活。也就是說，智能技術不能是“技術自運轉”，它的運行必須有規(guī)矩、有邊界?！秾嵤┮庖姟返某雠_，就是要及時填補技術應用與制度建設的“落差”。它不是給智能體創(chuàng)新“踩剎車”，而是給智能體“裝上方向盤、系上安全帶、畫好軌道線”。

智能體的應用，要遵循以人為本的理念。說到底，智能體是工具，它應該服務于人。《實施意見》明確要求“確保用戶對智能體自主決策享有知情權和最終決策權”，正是將人的主體性擺在了核心位置。近日，工業(yè)和信息化部辦公廳印發(fā)了《關于實施人工智能科技倫理審查與服務先導計劃的通知》，將在北京、上海、天津、廣東、山東等10個省市開展AI科技倫理審查。這些探索正是回歸到人的權利本位。城市管理者要讓智能技術從“無限運算”轉向“最小必要運算”，從“替人做主”轉向“助人決斷”，讓每一個被智能體服務的市民，享受得到服務、看得見規(guī)則、找得著說法。

智能體的效果，取決于“制度護欄”的保障。政府不能只做智能技術的“使用者”，更要做智能體生態(tài)的“塑造者”。各地須統攬各類智能體，根據應用場景的風險高低，審慎劃定智能體“可為”與“不可為”邊界，同步建立算法備案與影響評估制度，讓每一套算法在上線前先“過審”；同時完善人工復核與申訴救濟機制，確保智能決策有據可查、有人負責、有地方說理。“制度護欄”不是為了束縛智能體，而是為了讓它在服務市民的軌道上跑得更穩(wěn)。

智能體的生態(tài)，要靠多元共治的協同。智能體不是政府和企業(yè)的“專屬工具”，它連接著企業(yè)、社區(qū)和普通市民?！秾嵤┮庖姟窂娬{“堅持以人為本、智能向善、多元共治、安全穩(wěn)妥”，鼓勵行業(yè)自律、信用評價建設，引導公眾和企業(yè)、高校、科研機構積極參與，這就是共建共治共享。政府應從單一的“智能體使用者”轉向“多元共治的塑造者”。在這方面，國內已有鮮活實踐。

國務院國資委牽頭打造的“煥新社區(qū)”，由25家企業(yè)、高校和標準化機構共同發(fā)起，面向全社會開放了40個央企高價值場景，使AI創(chuàng)新成果惠及更多中小企業(yè)和開發(fā)者。這啟示我們，開放合作的智能體生態(tài)更有生命力。智能體的接口不僅應該開放給基層單位，而且應該向社會公眾開放，用以成為“眾包平臺”，使政府內外的行動者能夠在此基礎上創(chuàng)新應用、共同治理。要讓居民對影響自己生活的算法有發(fā)言權，讓第三方機構參與評估認證，讓行業(yè)自律與政府監(jiān)管形成合力。

（來源：光明日報）