編者按：2022年，多個(gè)人工智能應(yīng)用“出圈”，并大有取代部分人類智力工作的趨勢(shì)。人工智能技術(shù)的快速發(fā)展，既令人驚嘆，又帶來(lái)不少焦慮。技術(shù)的快速發(fā)展讓人工智能相關(guān)的法律問(wèn)題以及倫理治理顯得格外緊迫。本刊推出一組報(bào)道供參考。

本刊記者 徐明皎

最近一段時(shí)間，AI繪畫(huà)程序Midjourney、AI聊天程序ChatGPT等人工智能應(yīng)用火爆出圈，其輸出的圖像和文本驚艷了很多使用者。人工智能開(kāi)始挑戰(zhàn)被人類視為獨(dú)有的特權(quán)——?jiǎng)?chuàng)造力。

人工智能是否會(huì)失控？人類是否會(huì)被取代？以往出現(xiàn)在科幻電影中的場(chǎng)景開(kāi)始成為很多人的真實(shí)關(guān)切，人工智能倫理治理也愈加凸顯其重要性。

倫理挑戰(zhàn)前所未有

近日，我國(guó)外交部在《中國(guó)關(guān)于加強(qiáng)人工智能倫理治理的立場(chǎng)文件》中指出，“人工智能作為最具代表性的顛覆性技術(shù)，在給人類社會(huì)帶來(lái)潛在巨大發(fā)展紅利的同時(shí)，其不確定性可能帶來(lái)許多全球性挑戰(zhàn)，甚至引發(fā)根本性的倫理關(guān)切”。

中國(guó)科技大學(xué)教授陳小平將人工智能倫理治理稱為“一種新型問(wèn)題”。他在接受本刊記者采訪時(shí)表示，人工智能與以往科技最大的不同在于，“過(guò)去的技術(shù)都是工具，而人工智能不再是簡(jiǎn)單的工具，而且滲透到社會(huì)生產(chǎn)和生活的方方面面”。

哈爾濱工程大學(xué)教授莫宏偉在談?wù)撛搯?wèn)題時(shí)表示，人工智能是智能型工具，當(dāng)這種智能性與人類智能某方面相似甚至超越人類時(shí)，就會(huì)對(duì)人類社會(huì)的傳統(tǒng)倫理關(guān)系造成影響和沖擊。

“如果一種人工智能的持續(xù)存在和未來(lái)發(fā)展方向完全不在人類的控制之下，那么這種人工智能就是不可控的?！标愋∑奖硎尽?/p>

不過(guò)，令人略感欣慰的是，現(xiàn)有人工智能還處在無(wú)自主意識(shí)的弱人工智能階段，都是可控的。出現(xiàn)不可控人工智能的可能性目前還僅存在理論中。

陳小平還提到了人工智能的一種現(xiàn)實(shí)挑戰(zhàn)，“人工智能技術(shù)越來(lái)越多，人類的工作崗位就會(huì)越來(lái)越少”。直到最后大多數(shù)工作崗位都被人工智能取代?！皩?duì)于這種情況的后果，人類遠(yuǎn)遠(yuǎn)沒(méi)有想清楚，貿(mào)然讓它發(fā)生，就是一種重大風(fēng)險(xiǎn)。”

即便是在弱人工智能時(shí)代，因技術(shù)引發(fā)的倫理問(wèn)題也層出不窮，如數(shù)據(jù)泄露和隱私侵犯、信息偽造和內(nèi)容造假、算法歧視和算法獨(dú)裁等問(wèn)題。

倫理規(guī)范具有先導(dǎo)作用

在人工智能的倫理治理方面，我國(guó)已在規(guī)范層面作出了不少探索。

陳小平將用戶隱私、數(shù)據(jù)安全、算法公平性和透明性等問(wèn)題看作具有現(xiàn)實(shí)緊迫性，也是較易解決的問(wèn)題。

2021 年頒布的《中華人民共和國(guó)個(gè)人信息保護(hù)法》《中華人民共和國(guó)數(shù)據(jù)安全法》《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見(jiàn)》已將網(wǎng)絡(luò)空間管理、數(shù)據(jù)保護(hù)、算法安全綜合治理作為主要監(jiān)管目標(biāo)。

2021年底修訂的科學(xué)技術(shù)進(jìn)步法，其一大亮點(diǎn)就是將科技倫理治理入法，在科技倫理治理體系、科技倫理委員會(huì)、科技倫理審查等方面都作出了明確規(guī)定。

有研究者指出，人工智能技術(shù)尚處于快速發(fā)展階段，倉(cāng)促立法不利于法律條文的穩(wěn)定性，還可能限制新技術(shù)的發(fā)展。在此情況下，通過(guò)行政文件和行業(yè)規(guī)范治理成為可行路徑。

北京郵電大學(xué)經(jīng)濟(jì)管理學(xué)院教授金永生表示，制定完備的法律需要反復(fù)論證，倫理規(guī)范對(duì)于人工智能問(wèn)題的調(diào)整具有先導(dǎo)作用，即后續(xù)倫理規(guī)范可以轉(zhuǎn)化為具體法律，實(shí)現(xiàn)道德的法律化。

2019年初，科技部成立新一代人工智能治理專業(yè)委員會(huì)。其在2019年6月發(fā)布《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》。2021年9月發(fā)布《新一代人工智能倫理規(guī)范》，作為人工智能倫理治理的頂級(jí)設(shè)計(jì)指導(dǎo)，提出人工智能各類活動(dòng)應(yīng)遵循的六項(xiàng)基本倫理規(guī)范。

今年3月20日，國(guó)務(wù)院辦公廳發(fā)布《關(guān)于加強(qiáng)科技倫理治理的指導(dǎo)意見(jiàn)》。據(jù)了解，該意見(jiàn)是我國(guó)國(guó)家層面首個(gè)有關(guān)科技倫理治理的指導(dǎo)性文件，就科技倫理的總體要求、原則、治理體制、制度保障以及審查和監(jiān)管、深入開(kāi)展科技倫理和宣傳等均進(jìn)行了全面的指導(dǎo)性規(guī)定。

構(gòu)建人工智能治理框架

在陳小平看來(lái)，“最大的挑戰(zhàn)是‘未來(lái)挑戰(zhàn)’”，也即中國(guó)能不能抓住人工智能這一歷史機(jī)遇。但他同時(shí)強(qiáng)調(diào)，不能只考慮經(jīng)濟(jì)因素，要從增進(jìn)人類福祉的基本原則出發(fā)，綜合考慮各方面因素，統(tǒng)籌協(xié)調(diào)人工智能的發(fā)展。《新一代人工智能倫理規(guī)范》將“增進(jìn)人類福祉”作為第一項(xiàng)基本倫理規(guī)范。

對(duì)于多數(shù)工作崗位將被人工智能取代的風(fēng)險(xiǎn)，陳小平認(rèn)為，現(xiàn)有預(yù)測(cè)能力嚴(yán)重不足，預(yù)測(cè)方法也不適應(yīng)新形勢(shì)的需要。有必要建立一種風(fēng)險(xiǎn)與機(jī)遇一體化的預(yù)測(cè)能力，對(duì)人工智能的正面效應(yīng)和負(fù)面效應(yīng)等進(jìn)行一體化預(yù)測(cè)。

“我國(guó)人工智能治理整體框架已構(gòu)建完成，進(jìn)行細(xì)節(jié)填充已成未來(lái)趨勢(shì)?！苯鹩郎磉_(dá)了更為樂(lè)觀的態(tài)度。他認(rèn)為，雖然有部分案例顯示人工智能有失控風(fēng)險(xiǎn)，但其不具有廣泛代表性，利用法律規(guī)則并配合可落地的倫理標(biāo)準(zhǔn)即可有效保障技術(shù)發(fā)展規(guī)范。

金永生建議，對(duì)部分法律作出解釋，比如數(shù)據(jù)安全法提出建立數(shù)據(jù)安全風(fēng)險(xiǎn)評(píng)估制度，但具體的主管機(jī)構(gòu)、適用范圍、評(píng)估審查機(jī)制等配套制度仍需明確。他還建議對(duì)自動(dòng)駕駛、機(jī)器人民事責(zé)任能力等問(wèn)題及時(shí)出臺(tái)法律規(guī)范。