傅琳凱：探索建立促進(jìn)人工智能向善機(jī)制

傅琳凱2025年10月22日09:00來(lái)源：光明日?qǐng)?bào)

作者：傅琳凱，系中國(guó)計(jì)量大學(xué)馬克思主義學(xué)院教授

【學(xué)思踐悟】

人工智能技術(shù)作為引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的通用性技術(shù)，正在深刻改變著全球經(jīng)濟(jì)格局、人類生產(chǎn)生活方式乃至國(guó)家治理模式。習(xí)近平總書記在主持中共中央政治局第二十次集體學(xué)習(xí)時(shí)強(qiáng)調(diào)，要“全面推進(jìn)人工智能科技創(chuàng)新、產(chǎn)業(yè)發(fā)展和賦能應(yīng)用，完善人工智能監(jiān)管體制機(jī)制，牢牢掌握人工智能發(fā)展和治理主動(dòng)權(quán)”。2025年8月，國(guó)務(wù)院印發(fā)《關(guān)于深入實(shí)施“人工智能+”行動(dòng)的意見》，提出要“探索形成智能向善理論體系”。促進(jìn)人工智能向善，關(guān)鍵是要建立制約機(jī)制，引導(dǎo)和規(guī)范人工智能技術(shù)的研發(fā)與應(yīng)用，確保人工智能造福人類。

以服務(wù)人類為宗旨，探索建立人工智能倫理新范式

增進(jìn)社會(huì)福祉是技術(shù)發(fā)展的根本歸宿。近年來(lái)，人工智能技術(shù)呈爆發(fā)式發(fā)展態(tài)勢(shì)，從智能語(yǔ)音助手到智能駕駛系統(tǒng)，從醫(yī)療影像診斷到金融風(fēng)險(xiǎn)預(yù)測(cè)，人工智能已廣泛滲透至社會(huì)的各個(gè)領(lǐng)域，為越來(lái)越多的人所熟悉和使用。人工智能帶來(lái)前所未有的發(fā)展機(jī)遇，也帶來(lái)前所未遇的風(fēng)險(xiǎn)挑戰(zhàn)。應(yīng)加快探索建立人工智能倫理新范式，確保人工智能安全可靠，符合人類共同利益。

科技以人為本，人工智能應(yīng)以服務(wù)人類為宗旨，將人的需求和利益放在首位。建立人工智能倫理規(guī)范機(jī)制，要以保障人類根本利益為出發(fā)點(diǎn)，對(duì)人工智能技術(shù)的社會(huì)影響進(jìn)行評(píng)估，確立人工智能研發(fā)與應(yīng)用的倫理準(zhǔn)則，明確人工智能技術(shù)應(yīng)當(dāng)遵循的道德規(guī)范，引導(dǎo)其朝著符合人類價(jià)值觀的方向發(fā)展。實(shí)現(xiàn)技術(shù)普惠，托穩(wěn)社會(huì)底線，保障不同群體在人工智能技術(shù)應(yīng)用中的平等權(quán)利，避免因算法偏見、數(shù)據(jù)歧視等問(wèn)題導(dǎo)致的不公平現(xiàn)象。

馬克思主義認(rèn)為人具有主觀能動(dòng)性，科技只是人認(rèn)識(shí)自然、改造自然的工具，起決定性作用的是人，而不是工具。人工智能本質(zhì)上是一種智能化的工具，人類需要認(rèn)清人工智能的工具屬性，合理使用人工智能，將之用于提高生產(chǎn)力，為人類謀福祉。因此，人工智能技術(shù)的發(fā)展應(yīng)確保安全可控，保障系統(tǒng)的可靠性、穩(wěn)定性和安全性?？筛鶕?jù)人工智能系統(tǒng)的風(fēng)險(xiǎn)等級(jí)，實(shí)施不同程度的監(jiān)管和倫理審查，避免“一刀切”扼殺創(chuàng)新。推動(dòng)建立“沙盒監(jiān)管”模式，允許在可控的真實(shí)世界環(huán)境中測(cè)試創(chuàng)新技術(shù)及其倫理框架，并根據(jù)結(jié)果快速調(diào)整政策。建立人工智能系統(tǒng)的“生命周期注冊(cè)制”，在人工智能部署后持續(xù)監(jiān)控其表現(xiàn)，實(shí)施有效的反饋和召回機(jī)制，及時(shí)解決所暴露出的倫理問(wèn)題、修補(bǔ)技術(shù)漏洞。

以安全可控為錨點(diǎn)，健全人工智能法律監(jiān)管體系

人工智能技術(shù)的迅猛發(fā)展也帶來(lái)了諸多風(fēng)險(xiǎn)與挑戰(zhàn)，如偽造生成他人信息、數(shù)據(jù)隱私泄露、算法歧視、侵犯知識(shí)產(chǎn)權(quán)等。亟須探索構(gòu)建一個(gè)科學(xué)、有效、具有前瞻性的人工智能法律監(jiān)管體系，確保人工智能健康、有序、安全發(fā)展，充分發(fā)揮其積極作用。

目前，我國(guó)已出臺(tái)網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法、個(gè)人信息保護(hù)法等相關(guān)法律，對(duì)人工智能發(fā)展涉及的部分領(lǐng)域有所規(guī)范，但面對(duì)人工智能技術(shù)的快速迭代與復(fù)雜應(yīng)用場(chǎng)景，現(xiàn)有法律監(jiān)管體系仍存在空白與不足?？芍贫▽ｉT的人工智能法律，明確人工智能技術(shù)研發(fā)者、使用者、運(yùn)營(yíng)者等各主體的權(quán)利、義務(wù)與責(zé)任，以及違法行為的界定、法律責(zé)任的承擔(dān)、賠償機(jī)制、監(jiān)管機(jī)制等。例如，針對(duì)人工智能生成技術(shù)，明確數(shù)據(jù)收集、技術(shù)合規(guī)使用、顯著位置標(biāo)注等要求，防范生成技術(shù)被濫用；針對(duì)人工智能算法，完善算法公開機(jī)制，以此避免算法歧視，確保決策的公平性與可解釋性；明確人工智能產(chǎn)品造成損害時(shí)的責(zé)任歸屬，無(wú)論是因技術(shù)缺陷還是應(yīng)用不當(dāng)導(dǎo)致的損害，相關(guān)主體都應(yīng)依法承擔(dān)相應(yīng)責(zé)任。

健全人工智能法律監(jiān)管體系，規(guī)范動(dòng)態(tài)風(fēng)險(xiǎn)分級(jí)與容錯(cuò)機(jī)制?？梢脒m應(yīng)性治理理念，遵循包容審慎的原則，針對(duì)技術(shù)發(fā)展的不確定性與未知前景，采取兼容并蓄的靈活監(jiān)管措施，既要包容技術(shù)發(fā)展存在的不足，又要激勵(lì)繼續(xù)迭代升級(jí)。建立持續(xù)動(dòng)態(tài)監(jiān)管和事后響應(yīng)制度，為技術(shù)進(jìn)步預(yù)留充足的發(fā)展空間，并明確厘清安全底線，激發(fā)經(jīng)濟(jì)社會(huì)發(fā)展的活力和創(chuàng)造性。構(gòu)建多元協(xié)同治理機(jī)制，推動(dòng)政府、企業(yè)、行業(yè)組織、科研機(jī)構(gòu)、社會(huì)公眾共同參與人工智能治理。如企業(yè)要切實(shí)履行主體責(zé)任，自覺遵守法律法規(guī)與行業(yè)規(guī)范；行業(yè)組織可制定行業(yè)標(biāo)準(zhǔn)與自律公約，通過(guò)開展行業(yè)培訓(xùn)、技術(shù)交流等活動(dòng)，引導(dǎo)行業(yè)健康發(fā)展，并協(xié)助政府進(jìn)行行業(yè)監(jiān)管。

以技術(shù)向善為導(dǎo)向，推動(dòng)安全可靠的人工智能應(yīng)用落地

人工智能屬于底層技術(shù)，與互聯(lián)網(wǎng)技術(shù)類似，亦具備基礎(chǔ)性、通用性、多元化等特征，應(yīng)用場(chǎng)景非常豐富，在各個(gè)領(lǐng)域都可發(fā)揮技術(shù)賦能作用。未來(lái)隨著“人工智能+”行動(dòng)的大力實(shí)施，千行百業(yè)將催生出大量智能應(yīng)用，成為經(jīng)濟(jì)社會(huì)發(fā)展的持續(xù)動(dòng)力。面對(duì)新一代人工智能技術(shù)快速演進(jìn)的新形勢(shì)，要充分發(fā)揮新型舉國(guó)體制優(yōu)勢(shì)，堅(jiān)持自立自強(qiáng)，突出應(yīng)用導(dǎo)向，推動(dòng)我國(guó)人工智能朝著有益、安全、公平方向健康有序發(fā)展。

針對(duì)層出不窮的人工智能應(yīng)用，可建立覆蓋全行業(yè)、全生命周期的統(tǒng)一的安全評(píng)估體系標(biāo)準(zhǔn)，實(shí)現(xiàn)對(duì)人工智能應(yīng)用安全風(fēng)險(xiǎn)的精準(zhǔn)測(cè)評(píng)，篩選、推廣安全可靠的人工智能應(yīng)用，以發(fā)揮技術(shù)向善作用。由權(quán)威第三方機(jī)構(gòu)依據(jù)統(tǒng)一標(biāo)準(zhǔn)開展獨(dú)立評(píng)估，對(duì)通過(guò)評(píng)估的人工智能應(yīng)用頒發(fā)安全認(rèn)證證書，并通過(guò)全國(guó)性平臺(tái)公示應(yīng)用名稱、研發(fā)企業(yè)、評(píng)估結(jié)果等信息，為市場(chǎng)選擇提供清晰指引?？山ⅰ皠?dòng)態(tài)復(fù)核”制度，對(duì)已認(rèn)證應(yīng)用進(jìn)行定期抽查與不定期突擊檢查，一旦發(fā)現(xiàn)安全隱患立即撤銷認(rèn)證，形成安全閉環(huán)管理。

在推廣人工智能應(yīng)用落地環(huán)節(jié)，需強(qiáng)化政策引導(dǎo)與資源傾斜。可將安全認(rèn)證結(jié)果與政府采購(gòu)、政策補(bǔ)貼、行業(yè)準(zhǔn)入掛鉤，鼓勵(lì)政府部門、重點(diǎn)行業(yè)優(yōu)先選用認(rèn)證通過(guò)的人工智能應(yīng)用。搭建安全可靠的人工智能應(yīng)用推廣平臺(tái)，通過(guò)案例分享、現(xiàn)場(chǎng)演示、供需對(duì)接會(huì)等形式，推動(dòng)成熟應(yīng)用在醫(yī)療、教育、養(yǎng)老、工業(yè)等重點(diǎn)領(lǐng)域落地。例如，在基層醫(yī)療領(lǐng)域推廣通過(guò)安全評(píng)估的人工智能影像診斷系統(tǒng)，助力提升基層診療水平；在制造業(yè)推廣認(rèn)證合格的智能質(zhì)檢應(yīng)用，推動(dòng)產(chǎn)業(yè)提質(zhì)增效。通過(guò)激勵(lì)安全可靠的人工智能應(yīng)用落地，能夠加快推動(dòng)形成技術(shù)向善的產(chǎn)業(yè)生態(tài)。