兩會建言｜全國政協(xié)委員王晶：三點建議打通AI倫理規(guī)范、技術(shù)研發(fā)與產(chǎn)業(yè)應(yīng)用“堵點”

中經(jīng)記者 陳佳嵐 北京報道

當(dāng)生成式AI以驚人的迭代速度重塑產(chǎn)業(yè)，如何為狂奔的技術(shù)系上“安全帶”，成為今年全國兩會上代表委員們的熱議話題。

《中國經(jīng)營報》記者獲悉，今年全國兩會上，全國政協(xié)委員、新大陸科技集團CEO王晶提交了《關(guān)于以AI善治筑牢倫理底線構(gòu)建人工智能健康發(fā)展體系的提案》。

先后擔(dān)任兩屆全國人大代表、三屆全國政協(xié)委員，今年已是王晶第25年參加全國兩會，她表示，當(dāng)前我國人工智能技術(shù)研發(fā)與產(chǎn)業(yè)應(yīng)用進入提速期，但AI發(fā)展的倫理約束與善治體系建設(shè)滯后于技術(shù)創(chuàng)新步伐，核心癥結(jié)在于AI倫理治理的頂層設(shè)計不完善、技術(shù)研發(fā)與倫理規(guī)范的融合機制不健全、全球視野下的AI倫理協(xié)同治理能力不足，導(dǎo)致AI技術(shù)應(yīng)用面臨數(shù)據(jù)失真、算法歧視、技術(shù)濫用等多重風(fēng)險。

為此，她建議，從強化AI倫理頂層設(shè)計、健全AI倫理治理機制、推動AI倫理實踐落地等方面推動AI善治與人工智能產(chǎn)業(yè)深度融合，打通倫理規(guī)范、技術(shù)研發(fā)、產(chǎn)業(yè)應(yīng)用的全鏈條，構(gòu)建人工智能健康發(fā)展體系。

近期震動全球AI界的案例——美國Anthropic公司開發(fā)的Claude大模型。因拒絕移除模型中“禁止用于國內(nèi)大規(guī)模監(jiān)控、禁止用于全自主致命性武器”的安全限制，該公司被美國國防部列為國家安全供應(yīng)鏈風(fēng)險實體，遭聯(lián)邦機構(gòu)全面停用。

“這一案例既體現(xiàn)了企業(yè)堅守AI倫理底線的重要性，更為全球人工智能發(fā)展敲響了倫理警鐘。”王晶表示，AI技術(shù)若脫離倫理約束與善治規(guī)范，要么面臨被權(quán)力或資本裹挾濫用的風(fēng)險，要么因倫理分歧導(dǎo)致技術(shù)應(yīng)用受阻，最終制約人工智能產(chǎn)業(yè)的健康可持續(xù)發(fā)展。

王晶在提案中系統(tǒng)梳理了當(dāng)前人工智能發(fā)展過程中倫理建設(shè)與善治體系層面的突出痛點：

一是倫理建設(shè)滯后，與技術(shù)創(chuàng)新發(fā)展脫節(jié)。人工智能技術(shù)研發(fā)呈現(xiàn)高速迭代態(tài)勢，但與之匹配的倫理規(guī)范體系建設(shè)相對滯后，缺乏覆蓋AI研發(fā)、設(shè)計、應(yīng)用、迭代全鏈條的統(tǒng)一倫理標(biāo)準(zhǔn)。部分研發(fā)機構(gòu)存在“重技術(shù)突破、輕倫理考量”的傾向，將倫理建設(shè)視為技術(shù)發(fā)展的“附屬品”，導(dǎo)致AI技術(shù)從研發(fā)源頭就缺乏倫理約束，為后續(xù)應(yīng)用埋下風(fēng)險隱患。

二是治理機制梗阻，專業(yè)服務(wù)與協(xié)同體系缺失。 AI倫理治理的專業(yè)人才隊伍建設(shè)滯后，缺乏既懂人工智能技術(shù)、又通倫理規(guī)范和法律法規(guī)的復(fù)合型人才，導(dǎo)致AI倫理審查、風(fēng)險研判的專業(yè)服務(wù)鏈條斷裂；多方協(xié)同機制未有效建立，科研機構(gòu)、科技企業(yè)的主體責(zé)任不明確，監(jiān)管部門的監(jiān)管體系不完善，行業(yè)協(xié)會形成“各自為戰(zhàn)”的治理格局。企業(yè)在AI技術(shù)應(yīng)用中面臨倫理界定模糊、治理規(guī)則不明的問題，部分企業(yè)因缺乏明確指引而出現(xiàn)“不敢用、不會用”或“隨意用、濫用”的兩極現(xiàn)象。

三是倫理實踐缺位，發(fā)展風(fēng)險與全球協(xié)同不足。科技向善的理念未充分貫穿人工智能發(fā)展全過程，部分AI技術(shù)應(yīng)用存在數(shù)據(jù)采集不規(guī)范、算法設(shè)計有偏見、技術(shù)使用超邊界等問題，數(shù)據(jù)失真、算法歧視、隱私泄露等風(fēng)險逐步凸顯不僅會影響人工智能產(chǎn)業(yè)的健康發(fā)展，更可能危及數(shù)據(jù)安全、社會公平與國家安全。

針對上述短板，王晶提出了一攬子建議。

一是強化AI倫理頂層設(shè)計。以國家數(shù)字經(jīng)濟發(fā)展戰(zhàn)略和全球AI發(fā)展趨勢為導(dǎo)向，依托新型舉國體制凝聚科研機構(gòu)、高校、行業(yè)協(xié)會的協(xié)同合力，加快制定覆蓋AI研發(fā)、設(shè)計、應(yīng)用、迭代全鏈條的統(tǒng)一倫理準(zhǔn)則，明確人工智能發(fā)展的倫理紅線與價值底線。深化AI研發(fā)評價改革，破除“唯技術(shù)、唯成果”的桎梏，將倫理建設(shè)成效、風(fēng)險防控能力納入科研人員與研發(fā)機構(gòu)的核心考核指標(biāo)，激勵研發(fā)主體從源頭融入倫理考量。

二是健全AI倫理治理機制。構(gòu)建科研機構(gòu)、科技企業(yè)、監(jiān)管部門、行業(yè)協(xié)會多方聯(lián)動、責(zé)任共擔(dān)、協(xié)同共治的AI倫理治理機制，推動監(jiān)管部門做好規(guī)則制定與監(jiān)督管理，科研機構(gòu)做好倫理研究與技術(shù)融合，科技企業(yè)履行倫理應(yīng)用主體責(zé)任，行業(yè)協(xié)會發(fā)揮自律引導(dǎo)作用。培育專業(yè)化的AI倫理治理人才隊伍和服務(wù)機構(gòu)，搭建AI倫理審查、風(fēng)險研判、技術(shù)咨詢的公共服務(wù)平臺，打通AI倫理治理的專業(yè)服務(wù)鏈條。

三是推動AI倫理實踐落地。堅持“道引領(lǐng)、法保障、術(shù)賦能、器支撐”的原則，推動建立健全AI倫理審查機制、數(shù)據(jù)管理制度和算法監(jiān)管體系，規(guī)范數(shù)據(jù)采集、存儲、使用、流轉(zhuǎn)全流程，加強對算法設(shè)計、訓(xùn)練、應(yīng)用的全鏈條監(jiān)管，嚴(yán)厲打擊AI技術(shù)濫用行為。建立AI倫理失范的容錯糾錯機制和風(fēng)險防控機制，從制度層面降低AI技術(shù)應(yīng)用的倫理風(fēng)險、數(shù)據(jù)風(fēng)險和社會風(fēng)險。

除了聚焦人工智能倫理治理的話題外，記者了解到，王晶還帶來了聚焦民間外交的提案。

在王晶看來，民間外交是國家總體外交的重要組成部分，是增進國際民間友誼、傳遞中國聲音、凝聚國際共識的重要橋梁，更是推動構(gòu)建人類命運共同體的關(guān)鍵力量。她在《關(guān)于深化民間外交發(fā)展機制服務(wù)國家總體外交大局的提案》中指出，當(dāng)前我國已與絕大多數(shù)國家建立民間友好合作關(guān)系，多領(lǐng)域交流成效顯著。但與我國大國地位、外交需求及發(fā)達國家成熟體系相比，仍存在主體活力不足、機制保障缺失等問題。

“基層社會組織、民營企業(yè)、民間團體等參與度低，力量分散且缺乏規(guī)模化、專業(yè)化運作能力。”王晶分析稱，當(dāng)前民間外交領(lǐng)域存在主體培育不足、參與力量分散；機制保障缺失，發(fā)展支撐薄弱；專業(yè)支撐缺位，服務(wù)能力不足；傳播效能偏低，軟實力轉(zhuǎn)化不足四大痛點。

為此，她提出三點具體建議：一是健全培育機制，激活多元主體活力。搭建國家級民間外交對接平臺，創(chuàng)新“民間友好+經(jīng)貿(mào)合作”等模式，設(shè)立專項扶持資金；二是強化人才建設(shè)，夯實專業(yè)發(fā)展根基。將民間外交人才納入國家重點人才培養(yǎng)體系，建立梯隊激勵機制；三是構(gòu)建服務(wù)生態(tài)，提升民間外交效能。打造全國一體化民間外交數(shù)字化服務(wù)平臺，推動民間外交從“單向傳播”向“雙向互鑒”升級。

值得注意的是，王晶此前曾深度參與民間外交實踐。據(jù)《福建日報》報道，她擔(dān)任新絲綢之路書院院長，積極推動中外文化、產(chǎn)業(yè)、人才交流，并在全球多個國際性活動積極發(fā)聲，為高質(zhì)量建言積累了鮮活素材。

（編輯：吳清 審核：李正豪 校對：翟軍）