AI手機越智能隱私風險越大？專家熱議端側AI數據安全
法治日報全媒體記者 趙穎
2月15日，由21世紀經濟報道、南財合規(guī)科技研究院主辦的“AI手機隱私危機：新秩序中的安全挑戰(zhàn)與抉擇”學術交流會在北京舉行，探討AI手機時代面臨的隱私挑戰(zhàn)。
AI如何裝進手機：兩張地圖
要理解AI手機如何運作，要從兩張“技術地圖”開始：端側AI與云側AI。端側指的是AI在手機等終端設備上進行計算和處理，響應快、隱私保護能力強、網絡依賴性低。
中國法學會網絡與信息法學研究會常務副秘書長周輝認為，端側AI理論上能夠最大限度地減少數據傳輸，避免用戶敏感信息被上傳至云端。如果管理到位，這是一種“更私密”的解決方案。
相較之下，云側AI依托強大的云計算資源，能提供更強的性能，但數據必須頻繁上傳云端，隱私暴露的風險隨之上升。
南財合規(guī)科技研究院院長、21世紀經濟報道總裁虞偉說：“在此前實測中發(fā)現，盡管手機廠商都宣稱自己具備端側AI大模型能力，但普遍的AI功能仍依賴云側大模型。端云協(xié)同中，用戶與模型交互數據密切，較多涉及個人隱私?！?/p>
北京尚隱科技有限公司CEO張仁卓任認為，純端側的模式能在本地處理用戶數據，安全性較高。但其風險是，在第三方App介入時，隱私保護的邊界往往模糊不清，容易引發(fā)數據濫用或過度采集的問題。當前的主流模式依然是端云配合，即將數據處理分散到本地與云端。
如果接入第三方AI，情況會更復雜。第三方AI模型通常需要訪問大量用戶數據，增加了數據泄露的可能性。數據在端側、云端和第三方AI之間的流動復雜，責任分配不明確，出現問題后難以追責。
AI如何代操作：一把鑰匙
無論技術路線如何，要讓AI智能體操作手機，部分廠商依賴一把萬能鑰匙：無障礙權限。
北京漢華飛天信安科技有限公司總經理彭根介紹，無障礙權限原本是為方便殘障人士使用手機而設置的特殊功能，涵蓋視覺、聽覺、肢體殘疾輔助等多方面功能，比如可以監(jiān)控屏幕內容，模擬用戶進行點擊、滑動、輸入等操作，幫助殘障人士使用手機。
無障礙權限能夠打破各個App之間的隔離機制，具有極高的權限，彭根稱之為手機里的“上帝模式”。
可以想象，“上帝模式”也容易被不法分子濫用為竊取用戶信息的工具。
盡管啟用無障礙權限時手機系統(tǒng)會有提醒，但這些提醒通常只有一次，而且警告內容模糊，用戶很難真正理解其潛在風險。一些AI手機自帶的內置應用權限高于普通App權限，且難以察覺其運行狀態(tài)。
于是，一個兩難困境正在出現：無障礙權限的本意是去障礙，更好地輔助殘障人士使用智能手機，但便利帶來更大的危機，AI手機的隱蔽式調用可能讓安全和隱私陷入危險。
彭根坦率地說，目前針對無障礙權限帶來的風險，還沒有完善的防御方案。建議用戶保持警惕，關閉非必要權限，定期查看手機權限功能列表，防止安裝第三方應用形式的智能助手等，盡可能地降低風險。
AI隱私風險：三個背景
中國信息通信研究院互聯網法律研究中心主任何波表示，人工智能是引領這一輪科技革命和產業(yè)變革的戰(zhàn)略性技術，相關產業(yè)正在向多智能融合新階段發(fā)展，成為發(fā)展新質生產力的重要引擎。
何波認為，現有法律法規(guī)對于AI手機隱私保護已有相關規(guī)定。例如，網絡安全法、數據安全法、個人信息保護法明確規(guī)定了處理個人信息的要求；2025年1月1日施行的《網絡數據安全管理條例》進一步對涉及自動化工具、生成式人工智能等新興技術的數據處理活動作出了特殊規(guī)定，這些都可以作為AI手機的監(jiān)管依據。但與此同時，AI手機涉及主體眾多，數據在不同主體間流動，導致各環(huán)節(jié)責任難以區(qū)分，存在監(jiān)管挑戰(zhàn)。
“與以App為抓手的隱私保護不同，AI手機行業(yè)生態(tài)更為復雜，涵蓋手機終端、第三方大模型、App以及云服務等參與方，各方在數據安全上的責任關系不明確?！庇輦フf。
北京大學政府管理學院教授馬亮認為，AI手機帶來的另一大新挑戰(zhàn)是市場競爭秩序的變化，廠商和App將為用戶權限展開激烈爭奪。當前亟需形成共識，探索合理的權限治理模式。
對外經濟貿易大學數字經濟與法律創(chuàng)新研究中心主任許可表示，AI智能體在手機中的重要作用日益凸顯，決定了資源的調配方式，可能改變傳統(tǒng)的App主導模式。如果未來某些AI模型在市場上占據主導地位，可能會給市場競爭帶來新挑戰(zhàn)。
此外，AI智能體逐漸成為智能生活的核心中樞，如何在AI能力超越人類的情況下，始終讓AI Agent以服從人類命令為前提工作，保持人類的主體地位？當我們與AI越走越近，或許更應該思考以人為本的路徑，這一問題亟待在制度和倫理層面進行思考。
編輯：遲明緒
京公網安備 11010502000576號