作者：肖文，系浙江大學(xué)經(jīng)濟(jì)學(xué)院教授

黨的二十屆四中全會(huì)指出，“加快人工智能等數(shù)智技術(shù)創(chuàng)新，突破基礎(chǔ)理論和核心技術(shù)，強(qiáng)化算力、算法、數(shù)據(jù)等高效供給”。人工智能作為新一輪科技革命的關(guān)鍵領(lǐng)域和產(chǎn)業(yè)變革的核心動(dòng)力，引領(lǐng)著經(jīng)濟(jì)社會(huì)發(fā)展范式變革。習(xí)近平總書記指出，“全面推進(jìn)人工智能科技創(chuàng)新、產(chǎn)業(yè)發(fā)展和賦能應(yīng)用，完善人工智能監(jiān)管體制機(jī)制，牢牢掌握人工智能發(fā)展和治理主動(dòng)權(quán)”。數(shù)據(jù)、算力和算法是人工智能的三大要素，數(shù)據(jù)為人工智能發(fā)展提供了“燃料”，而人工智能發(fā)展又會(huì)形成海量數(shù)據(jù)，由此形成人工智能迭代演進(jìn)的良性循環(huán)。在實(shí)踐中，保障數(shù)據(jù)安全，強(qiáng)化高質(zhì)量數(shù)據(jù)供給，對于人工智能健康發(fā)展至關(guān)重要。

數(shù)據(jù)安全是人工智能健康發(fā)展的必要條件

2022年末大模型興起，今年初DeepSeek以開源模式進(jìn)一步推進(jìn)了人工智能的迭代及應(yīng)用，人工智能技術(shù)從實(shí)驗(yàn)室走向經(jīng)濟(jì)社會(huì)，對數(shù)據(jù)安全提出了更高要求。保障數(shù)據(jù)安全，為人工智能發(fā)展提供穩(wěn)定、可信、合規(guī)的環(huán)境，是促進(jìn)人工智能健康發(fā)展的客觀要求和必要條件。

數(shù)據(jù)安全能為人工智能發(fā)展提供穩(wěn)定環(huán)境。數(shù)據(jù)要素是數(shù)字經(jīng)濟(jì)時(shí)代的核心戰(zhàn)略資產(chǎn)，充分釋放數(shù)據(jù)要素價(jià)值是發(fā)展人工智能的必然要求。人工智能發(fā)展需要海量數(shù)據(jù)集聚并進(jìn)行訓(xùn)練，但人工智能技術(shù)本身對于數(shù)據(jù)的真實(shí)性并無判斷的能力，大量虛假的、失真的數(shù)據(jù)供給將會(huì)導(dǎo)致人工智能輸出虛構(gòu)信息。不僅如此，數(shù)據(jù)篡改、“數(shù)據(jù)投毒”等惡意行為，將會(huì)嚴(yán)重影響數(shù)據(jù)可靠性和完整性，直接破壞人工智能模型的性能，對于高度依賴人工智能決策的領(lǐng)域帶來極大危害。例如，在無人駕駛、醫(yī)療診療等領(lǐng)域，大量虛假數(shù)據(jù)、合成數(shù)據(jù)等會(huì)導(dǎo)致輸出結(jié)果失真，從而形成錯(cuò)誤決策，帶來風(fēng)險(xiǎn)挑戰(zhàn)。保障人工智能數(shù)據(jù)安全，為人工智能提供真實(shí)可靠、訓(xùn)練充足的優(yōu)質(zhì)數(shù)據(jù)，能夠?yàn)槿斯ぶ悄芴峁┓€(wěn)定的發(fā)展環(huán)境。

數(shù)據(jù)安全能為人工智能發(fā)展提供可信環(huán)境。人工智能加速融入經(jīng)濟(jì)社會(huì)運(yùn)行各個(gè)領(lǐng)域，能夠集成公開數(shù)據(jù)、個(gè)人數(shù)據(jù)等各類數(shù)據(jù)，進(jìn)而通過分析挖掘更深層次的數(shù)據(jù)。但人工智能模型黑箱的特性也導(dǎo)致數(shù)據(jù)源頭追溯存在困難，大量的虛構(gòu)信息將會(huì)導(dǎo)致幻覺問題，用戶難以進(jìn)行有效辨別和追溯，影響著人工智能應(yīng)用和發(fā)展的底層邏輯。不僅如此，人工智能在發(fā)展進(jìn)程中，算法設(shè)計(jì)、數(shù)據(jù)訓(xùn)練、決策執(zhí)行等環(huán)節(jié)也存在著算法不透明、模型歧視、責(zé)任認(rèn)定模糊等問題，倘若缺乏相應(yīng)的監(jiān)管，就會(huì)將既有的虛假信息、社會(huì)偏見等負(fù)面影響進(jìn)一步放大并精準(zhǔn)推送。提升數(shù)據(jù)安全性，保障高質(zhì)量數(shù)據(jù)供給，對于營造一個(gè)可信的人工智能發(fā)展環(huán)境至關(guān)重要。

數(shù)據(jù)安全能為人工智能發(fā)展提供合規(guī)環(huán)境。人工智能發(fā)展依托海量數(shù)據(jù)，推動(dòng)我國人工智能朝著有益、安全、公平方向健康有序發(fā)展，源頭在于保障數(shù)據(jù)安全。一方面，人工智能集聚海量數(shù)據(jù)，在模型運(yùn)行、數(shù)據(jù)流通等環(huán)節(jié)中存在敏感信息泄露的風(fēng)險(xiǎn)。不僅如此，人工智能平臺(tái)擁有強(qiáng)大的數(shù)據(jù)搜集能力，但原始數(shù)據(jù)與衍生數(shù)據(jù)的歸屬權(quán)、使用權(quán)等問題并沒有明確的界定，數(shù)據(jù)保護(hù)有待提升。另一方面，基于人工智能技術(shù)開發(fā)的腦機(jī)接口、人機(jī)交互設(shè)備等產(chǎn)業(yè)不斷興起，這些產(chǎn)業(yè)的發(fā)展將會(huì)自主無意識收集大量個(gè)人敏感的大腦數(shù)據(jù)，并且極大改變?nèi)伺c人之間的交互模式，現(xiàn)有加密技術(shù)難以完全阻斷黑客逆向解碼風(fēng)險(xiǎn)，數(shù)據(jù)安全和隱私保護(hù)難度加大。保障數(shù)據(jù)安全，才能更好地破解人工智能發(fā)展過程中的隱私泄露、倫理風(fēng)險(xiǎn)等，推動(dòng)人工智能合規(guī)發(fā)展。

在人工智能技術(shù)進(jìn)步中更好保障數(shù)據(jù)安全

數(shù)據(jù)安全與人工智能健康發(fā)展相輔相成、互為依托，習(xí)近平總書記強(qiáng)調(diào)，“我國數(shù)據(jù)資源豐富，產(chǎn)業(yè)體系完備，市場空間巨大，發(fā)展人工智能前景廣闊，要加強(qiáng)政策支持和人才培養(yǎng)，努力開發(fā)更多安全可靠的優(yōu)質(zhì)產(chǎn)品”。這就要求在數(shù)據(jù)安全中更好地促進(jìn)人工智能健康發(fā)展，在人工智能技術(shù)進(jìn)步中更好地保障數(shù)據(jù)安全，以高質(zhì)量數(shù)據(jù)供給促進(jìn)人工智能健康發(fā)展。

強(qiáng)化關(guān)鍵核心技術(shù)突破。不論是保障數(shù)據(jù)安全，還是發(fā)展人工智能，關(guān)鍵在于以問題為導(dǎo)向，全面增強(qiáng)創(chuàng)新能力，確保關(guān)鍵核心技術(shù)牢牢掌握在自己手里。一方面，要加大對數(shù)據(jù)安全、人工智能等領(lǐng)域基礎(chǔ)研究和關(guān)鍵核心技術(shù)的支持力度，通過設(shè)立專項(xiàng)資金等方式加大研發(fā)支持力度。尤其是發(fā)揮好企業(yè)創(chuàng)新主體作用，加強(qiáng)企業(yè)與科研院所在數(shù)據(jù)安全防護(hù)、數(shù)據(jù)加密傳輸?shù)阮I(lǐng)域技術(shù)的聯(lián)合攻關(guān)。另一方面，引導(dǎo)高校面向數(shù)據(jù)安全與人工智能發(fā)展等領(lǐng)域調(diào)整專業(yè)設(shè)置方向，以“微專業(yè)”培養(yǎng)高技術(shù)人才。同時(shí)，強(qiáng)化高校、科研院所、企業(yè)等創(chuàng)新主體聯(lián)合培養(yǎng)復(fù)合型人才機(jī)制，充分發(fā)揮人才作為第一資源的作用。

強(qiáng)化數(shù)據(jù)基礎(chǔ)設(shè)施建設(shè)。數(shù)據(jù)流通是充分釋放數(shù)據(jù)價(jià)值的重要路徑，加快建設(shè)數(shù)據(jù)基礎(chǔ)設(shè)施，能夠更好地促進(jìn)數(shù)據(jù)安全流通，為人工智能發(fā)展注入原動(dòng)力。一方面，加快數(shù)據(jù)基礎(chǔ)制度建設(shè)，形成數(shù)據(jù)領(lǐng)域的規(guī)劃體系，加速構(gòu)建數(shù)據(jù)要素全國統(tǒng)一大市場。同時(shí)，合理布局和建設(shè)數(shù)據(jù)可信空間，推進(jìn)區(qū)域、行業(yè)數(shù)據(jù)基礎(chǔ)設(shè)施互聯(lián)互通以及算力基礎(chǔ)設(shè)施一體化發(fā)展，保障數(shù)據(jù)要素安全流通。另一方面，加快數(shù)據(jù)標(biāo)準(zhǔn)體系建設(shè)，明確數(shù)據(jù)采集、數(shù)據(jù)挖掘、數(shù)據(jù)流通、數(shù)據(jù)保護(hù)等方面的標(biāo)準(zhǔn)，分領(lǐng)域推進(jìn)行業(yè)數(shù)據(jù)高質(zhì)量歸集和高效利用。不僅如此，還要積極參與國際標(biāo)準(zhǔn)制定，提升數(shù)據(jù)標(biāo)準(zhǔn)領(lǐng)域的話語權(quán)。

強(qiáng)化協(xié)同治理格局構(gòu)建。保障數(shù)據(jù)安全既要應(yīng)對技術(shù)風(fēng)險(xiǎn)，也要防范社會(huì)風(fēng)險(xiǎn)，需要政府、企業(yè)、協(xié)會(huì)、科研院所等多主體共同參與，構(gòu)建和完善協(xié)同治理格局。一方面，在現(xiàn)行法律法規(guī)基礎(chǔ)上，完善人工智能算法、加密數(shù)據(jù)保護(hù)、個(gè)人隱私保護(hù)等重點(diǎn)領(lǐng)域政策法規(guī)體系，健全完善數(shù)據(jù)治理、數(shù)據(jù)安全等制度，為保障數(shù)據(jù)安全奠定基礎(chǔ)。另一方面，明確政府、企業(yè)等主體責(zé)任，創(chuàng)新監(jiān)管模式，促進(jìn)信息共享，強(qiáng)化公眾參與，搭建協(xié)同治理的框架體系。尤其是構(gòu)建數(shù)據(jù)安全的評估平臺(tái)，制定人工智能數(shù)據(jù)安全的指標(biāo)體系，降低數(shù)據(jù)安全風(fēng)險(xiǎn)，提升人工智能發(fā)展成熟度，以此促進(jìn)人工智能健康發(fā)展。