近日,工業(yè)和信息化部等十部門(mén)聯(lián)合印發(fā)《人工智能科技倫理審查與服務(wù)辦法(試行)》(以下簡(jiǎn)稱(chēng)《辦法》),提出建立和完善人工智能科技倫理標(biāo)準(zhǔn)體系,支持人工智能科技倫理審查技術(shù)創(chuàng)新,強(qiáng)化以技術(shù)手段防范人工智能科技倫理風(fēng)險(xiǎn)。這為我國(guó)人工智能科技倫理審查與服務(wù)工作提供了明確指引。
專(zhuān)家表示,《辦法》的出臺(tái),標(biāo)志著我國(guó)人工智能倫理治理從原則倡導(dǎo)邁向制度化、規(guī)范化、可操作的新階段,為推動(dòng)人工智能健康發(fā)展提供了重要制度遵循。
據(jù)悉,《辦法》對(duì)人工智能科技倫理審查的適用范圍、服務(wù)促進(jìn)、實(shí)施主體、工作程序、監(jiān)督管理等作出規(guī)定,并結(jié)合人工智能科技活動(dòng)特點(diǎn),明確了申請(qǐng)與受理、一般程序、簡(jiǎn)易程序、專(zhuān)家復(fù)核程序、應(yīng)急程序等不同程序要求,有效規(guī)范人工智能科技活動(dòng)倫理治理。
《辦法》提出,開(kāi)展人工智能科技倫理審查,重點(diǎn)關(guān)注人類(lèi)福祉、公平公正、可控可信、透明可解釋、責(zé)任可追溯、隱私保護(hù)6個(gè)方面,包括訓(xùn)練數(shù)據(jù)的選擇標(biāo)準(zhǔn),算法、模型、系統(tǒng)的設(shè)計(jì)是否合理;是否采取措施防止偏見(jiàn)歧視、算法壓榨,保障資源分配、機(jī)會(huì)獲取、決策過(guò)程的客觀性與包容性;是否合理披露算法、模型、系統(tǒng)的用途、運(yùn)行邏輯、交互方式說(shuō)明、潛在風(fēng)險(xiǎn)等信息等。
事實(shí)上,近年來(lái),我國(guó)堅(jiān)持“倫理先行”的治理要求,在統(tǒng)籌發(fā)展和安全基礎(chǔ)上,持續(xù)推進(jìn)人工智能科技倫理治理工作。例如,在倫理規(guī)范層面,國(guó)家新一代人工智能治理專(zhuān)業(yè)委員會(huì)發(fā)布的《新一代人工智能倫理規(guī)范》,明確了人工智能科技倫理的基本倫理規(guī)范,涵蓋人工智能管理、研發(fā)、供應(yīng)、使用全鏈條。在制度體系層面,中共中央辦公廳、國(guó)務(wù)院辦公廳印發(fā)的《關(guān)于加強(qiáng)科技倫理治理的意見(jiàn)》對(duì)科技倫理治理作出頂層設(shè)計(jì)和系統(tǒng)部署,構(gòu)建了我國(guó)科技倫理治理的基本模式、監(jiān)管框架、制度體系。
“此次《辦法》是國(guó)家科技倫理治理體系在人工智能領(lǐng)域的落地,是我國(guó)科技倫理制度鏈條的重要延伸與細(xì)化完善?!惫I(yè)和信息化領(lǐng)域科技倫理專(zhuān)家委員會(huì)主任委員魏一鳴說(shuō),《辦法》立足人工智能技術(shù)迭代快、跨界融合深等特點(diǎn),在通用審查規(guī)則基礎(chǔ)上實(shí)現(xiàn)領(lǐng)域化、精細(xì)化適配,填補(bǔ)了人工智能科技倫理審查的制度空白。
為推進(jìn)人工智能科技倫理服務(wù)體系建設(shè),《辦法》從標(biāo)準(zhǔn)建設(shè)、服務(wù)體系、鼓勵(lì)創(chuàng)新、宣傳教育、人才培養(yǎng)五個(gè)方面制定支持舉措,幫助企業(yè)切實(shí)提升科技倫理風(fēng)險(xiǎn)防控能力。其中提出,強(qiáng)化人工智能科技倫理風(fēng)險(xiǎn)監(jiān)測(cè)預(yù)警、檢測(cè)評(píng)估、認(rèn)證、咨詢(xún)等服務(wù)供給;促進(jìn)人工智能科技倫理審查高質(zhì)量數(shù)據(jù)集有序開(kāi)源開(kāi)放,加強(qiáng)通用性風(fēng)險(xiǎn)管理、評(píng)估審計(jì)工具研發(fā),探索基于應(yīng)用場(chǎng)景的科技倫理風(fēng)險(xiǎn)評(píng)估評(píng)測(cè)等。
“倫理治理不僅需要制度規(guī)范,更需要技術(shù)支撐?!蔽阂圾Q認(rèn)為,具有深厚技術(shù)實(shí)力的企業(yè)、高校和科研機(jī)構(gòu),應(yīng)主動(dòng)承擔(dān)起研發(fā)科技倫理治理“硬科技”的使命,加強(qiáng)人工智能倫理治理技術(shù)研發(fā)與工具創(chuàng)新。聚焦可解釋人工智能、算法公平性監(jiān)測(cè)、深度偽造鑒別等關(guān)鍵技術(shù)開(kāi)展專(zhuān)項(xiàng)攻關(guān),為倫理審查提供技術(shù)工具。通過(guò)研發(fā)實(shí)用的倫理評(píng)估工具、風(fēng)險(xiǎn)模擬平臺(tái)和算法審計(jì)系統(tǒng),將抽象的倫理原則轉(zhuǎn)化為可量化、可操作、可嵌入工程流程的技術(shù)指標(biāo)與解決方案,推動(dòng)倫理治理技術(shù)化、工程化。