文 | 南開大學國家治理研究院院長、中國式現(xiàn)代化發(fā)展研究院高級研究員 吳曉林

近日，國家網(wǎng)信辦、國家發(fā)展改革委、工業(yè)和信息化部聯(lián)合印發(fā)《智能體規(guī)范應用與創(chuàng)新發(fā)展實施意見》（以下簡稱《實施意見》），明確支持探索智能體在城市規(guī)劃、建設(shè)與治理環(huán)節(jié)的規(guī)范應用，同時將智能體安全、可靠、可信作為產(chǎn)業(yè)發(fā)展的底線要求。

當前，以手機助手、終端智能管家、云端智能體等為代表的智能體產(chǎn)品加速涌現(xiàn)，呈現(xiàn)規(guī)?；瘧脩B(tài)勢，極大便利了人們的工作生活。智能體的廣泛使用，使得各類風險能被快速感知、及時處置，城市也變得更加“聰明”、更有韌性。例如，上海警方首創(chuàng)的“交通治堵大模型”已在全市360個路口部署應用，平均車速提升12.9%；北京街道10萬余井蓋、地下6800余公里管道全部接入智慧巡檢系統(tǒng)，智能井蓋一旦監(jiān)測到異常沉降，30秒內(nèi)自動報警；天津中新生態(tài)城搭建起智能感知網(wǎng)絡，可精準識別道路污染、建筑垃圾傾倒等行為，并實時上報預警信息，如同24小時在崗的“虛擬哨兵”。這樣的智能體應用，在全國各類城市已經(jīng)越來越多了。

然而，技術(shù)跑得太快，也會讓人心有疑慮。智能體的權(quán)限會不會越界？決策是否有效？如果決策出了問題誰來負責？隱私數(shù)據(jù)會不會“裸奔”？這些問題，老百姓關(guān)心，城市管理者更得放在心上。技術(shù)更新迭代速度快，制度建設(shè)跟不上，就會產(chǎn)生大量隱患。城市治理不是智能體的實驗室，它關(guān)系著千家萬戶的切身利益，一旦出了問題，所帶來的破壞和損失往往難以估量。在這方面，國外已有前車之鑒。

這給我們提了個醒，智能體本身不是問題，真正的問題在于缺少“制度護欄”。當智能體幫我們提供服務時，它調(diào)用的數(shù)據(jù)是否必要、依據(jù)了什么規(guī)則，決策錯了得糾偏問責；城市大腦調(diào)配信號燈時，算法偏差了得有人及時“踩剎車”；無人機飛越上空時，不能侵犯他人隱私和侵擾他人生活。也就是說，智能技術(shù)不能是“技術(shù)自運轉(zhuǎn)”，它的運行必須有規(guī)矩、有邊界。《實施意見》的出臺，就是要及時填補技術(shù)應用與制度建設(shè)的“落差”。它不是給智能體創(chuàng)新“踩剎車”，而是給智能體“裝上方向盤、系上安全帶、畫好軌道線”。

智能體的應用，要遵循以人為本的理念。說到底，智能體是工具，它應該服務于人?！秾嵤┮庖姟访鞔_要求“確保用戶對智能體自主決策享有知情權(quán)和最終決策權(quán)”，正是將人的主體性擺在了核心位置。近日，工業(yè)和信息化部辦公廳印發(fā)了《關(guān)于實施人工智能科技倫理審查與服務先導計劃的通知》，將在北京、上海、天津、廣東、山東等10個省市開展AI科技倫理審查。這些探索正是回歸到人的權(quán)利本位。城市管理者要讓智能技術(shù)從“無限運算”轉(zhuǎn)向“最小必要運算”，從“替人做主”轉(zhuǎn)向“助人決斷”，讓每一個被智能體服務的市民，享受得到服務、看得見規(guī)則、找得著說法。

智能體的效果，取決于“制度護欄”的保障。政府不能只做智能技術(shù)的“使用者”，更要做智能體生態(tài)的“塑造者”。各地須統(tǒng)攬各類智能體，根據(jù)應用場景的風險高低，審慎劃定智能體“可為”與“不可為”邊界，同步建立算法備案與影響評估制度，讓每一套算法在上線前先“過審”；同時完善人工復核與申訴救濟機制，確保智能決策有據(jù)可查、有人負責、有地方說理。“制度護欄”不是為了束縛智能體，而是為了讓它在服務市民的軌道上跑得更穩(wěn)。

智能體的生態(tài)，要靠多元共治的協(xié)同。智能體不是政府和企業(yè)的“專屬工具”，它連接著企業(yè)、社區(qū)和普通市民?！秾嵤┮庖姟窂娬{(diào)“堅持以人為本、智能向善、多元共治、安全穩(wěn)妥”，鼓勵行業(yè)自律、信用評價建設(shè)，引導公眾和企業(yè)、高校、科研機構(gòu)積極參與，這就是共建共治共享。政府應從單一的“智能體使用者”轉(zhuǎn)向“多元共治的塑造者”。在這方面，國內(nèi)已有鮮活實踐。

國務院國資委牽頭打造的“煥新社區(qū)”，由25家企業(yè)、高校和標準化機構(gòu)共同發(fā)起，面向全社會開放了40個央企高價值場景，使AI創(chuàng)新成果惠及更多中小企業(yè)和開發(fā)者。這啟示我們，開放合作的智能體生態(tài)更有生命力。智能體的接口不僅應該開放給基層單位，而且應該向社會公眾開放，用以成為“眾包平臺”，使政府內(nèi)外的行動者能夠在此基礎(chǔ)上創(chuàng)新應用、共同治理。要讓居民對影響自己生活的算法有發(fā)言權(quán)，讓第三方機構(gòu)參與評估認證，讓行業(yè)自律與政府監(jiān)管形成合力。

（來源：光明日報）