生成式AI安全指導(dǎo)性文件征求意見(jiàn) 明確五類安全風(fēng)險(xiǎn)
據(jù)全國(guó)信息安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)網(wǎng)站消息，日前，全國(guó)信息安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)秘書(shū)處發(fā)布《生成式人工智能服務(wù)安全基本要求（征求意見(jiàn)稿）》（以下簡(jiǎn)稱《基本要求》）。
《基本要求》給出了生成式人工智能服務(wù)在安全方面的基本要求，包括語(yǔ)料安全、模型安全、安全措施、安全評(píng)估等，適用于面向我國(guó)境內(nèi)公眾提供生成式人工智能服務(wù)的提供者提高服務(wù)安全水平，或是提供者自行或委托第三方開(kāi)展安全評(píng)估，也可為相關(guān)主管部門(mén)評(píng)判生成式人工智能服務(wù)的安全水平提供參考。
《基本要求》明確，生成式人工智能服務(wù)是基于數(shù)據(jù)、算法、模型、規(guī)則，能夠根據(jù)使用者提示生成文本、圖片、音頻、視頻等內(nèi)容的人工智能服務(wù)。
在語(yǔ)料內(nèi)容安全方面，《基本要求》提出了三大內(nèi)容：
一是訓(xùn)練語(yǔ)料內(nèi)容過(guò)濾方面，應(yīng)采取關(guān)鍵詞、分類模型、人工抽檢等方式，充分過(guò)濾全部語(yǔ)料中違法不良信息；
二是知識(shí)產(chǎn)權(quán)方面，應(yīng)設(shè)置語(yǔ)料以及生成內(nèi)容的知識(shí)產(chǎn)權(quán)負(fù)責(zé)人，并建立知識(shí)產(chǎn)權(quán)管理策略。語(yǔ)料用于訓(xùn)練前，知識(shí)產(chǎn)權(quán)相關(guān)負(fù)責(zé)人等應(yīng)對(duì)語(yǔ)料中的知識(shí)產(chǎn)權(quán)侵權(quán)情況進(jìn)行識(shí)別，提供者不應(yīng)使用有侵權(quán)問(wèn)題的語(yǔ)料進(jìn)行訓(xùn)練等。
三是個(gè)人信息方面，應(yīng)使用包含個(gè)人信息的語(yǔ)料時(shí)，獲得對(duì)應(yīng)個(gè)人信息主體的授權(quán)同意，或滿足其他合法使用該個(gè)人信息的條件等。
安全措施要求上，《基本要求》特別提出，服務(wù)適用未成年人的，應(yīng)允許監(jiān)護(hù)人設(shè)定未成年人防沉迷措施，并通過(guò)密碼保護(hù)；限制未成年人單日對(duì)話次數(shù)與時(shí)長(zhǎng)，若超過(guò)使用次數(shù)或時(shí)長(zhǎng)需輸入管理密碼；需經(jīng)過(guò)監(jiān)護(hù)人確認(rèn)后未成年人方可進(jìn)行消費(fèi)；為未成年人過(guò)濾少兒不宜內(nèi)容，展示有益身心健康的內(nèi)容。同時(shí)，服務(wù)不適用未成年人的，應(yīng)采取技術(shù)或管理措施防止未成年人使用。
另外，《基本要求》提及了語(yǔ)料及生成內(nèi)容的主要安全風(fēng)險(xiǎn)，包括違反社會(huì)主義核心價(jià)值觀、包含歧視性內(nèi)容、商業(yè)違法違規(guī)、侵犯他人合法權(quán)益、無(wú)法滿足特定服務(wù)類型的安全需求等五大類。
編輯：遲明緒
京公網(wǎng)安備 11010502000576號(hào)