美國總統(tǒng)拜登10月30日簽署一項行政命令，為人工智能安全制定了新標準。美國媒體稱，這是拜登政府對人工智能技術(shù)采取的第一項具有約束力的重大行動。

白宮在一份聲明中說，這項行政令“具有里程碑意義”，將保護美國公民隱私，促進公平和公民權(quán)利，維護消費者和工作者權(quán)益，促進創(chuàng)新和競爭等。

這一行政令要求，美國最強人工智能系統(tǒng)的研發(fā)人員需與政府分享其安全測試結(jié)果及其他關(guān)鍵信息；完善相關(guān)標準和測試工具，確保人工智能系統(tǒng)安全、可靠；制定嚴密的合成生物檢查新標準，防范使用人工智能設(shè)計危險生物材料的風險；建立檢測人工智能生成內(nèi)容和驗證官方內(nèi)容的標準和最佳實踐，以幫助民眾防范人工智能驅(qū)動的欺詐；建立先進的網(wǎng)絡(luò)安全計劃，開發(fā)人工智能工具查找和修補關(guān)鍵軟件漏洞；研發(fā)制定“國家安全備忘錄”，指導(dǎo)人工智能和安全方面的進一步行動。

據(jù)介紹，美國國家標準與技術(shù)研究所將制定嚴格的人工智能“紅隊”標準。美國國土安全部將把這些標準應(yīng)用于核心基礎(chǔ)設(shè)施項目，并成立人工智能安全委員會。美國能源部和國土安全部將具體應(yīng)對人工智能系統(tǒng)對關(guān)鍵基礎(chǔ)設(shè)施的威脅，及其帶來的化學(xué)、生物、放射性材料、核及網(wǎng)絡(luò)安全風險。

人工智能“紅隊”測試是網(wǎng)絡(luò)安全中的一項關(guān)鍵實踐，由專家團隊模擬真實世界的對手及其策略，以測試和增強系統(tǒng)的安全性。