中新網(wǎng)深圳10月17日電(記者 左雨晴) 人臉識別數(shù)據(jù)遭泄露，自己的面部數(shù)據(jù)被非法用于AI換臉牟利；與AI虛擬伴侶聊天，私密對話、圖片視頻和交易記錄卻被暴露在公共網(wǎng)絡(luò)……
近年來，人工智能(AI)迅猛發(fā)展，在文字處理、數(shù)據(jù)分析、個性化服務等領(lǐng)域展現(xiàn)出卓越能力，AI Agent(智能體)應用需求迅速增長，極大便利和豐富人們生活。然而，AI的爆發(fā)式增長離不開海量用戶數(shù)據(jù)的支持，這也讓用戶面臨更高的隱私泄露風險。
今年5月，國家網(wǎng)絡(luò)安全通報中心公布的35款存在違法違規(guī)收集使用個人信息情況的移動應用中，多款應用涉及AI大模型。同月，該中心發(fā)布警告稱，AI繪圖工具ComfyUI存在多個高危漏洞，已有境外黑客組織利用ComfyUI漏洞對我國網(wǎng)絡(luò)資產(chǎn)實施網(wǎng)絡(luò)攻擊，伺機竊取重要敏感數(shù)據(jù)。
發(fā)展人工智能應如何在合理利用數(shù)據(jù)的同時，確保數(shù)據(jù)的應用合法、透明和安全，從而保障用戶的隱私安全？
10月15日，在2025 OPPO開發(fā)者大會——AI安全與隱私分論壇上，中國信息通信研究院泰爾終端實驗室信息安全部副主任傅山表示，保護數(shù)據(jù)隱私安全需要智能終端、APP企業(yè)和用戶三方共同努力，建好“協(xié)作橋”。
對于端側(cè)，西安交通大學教授藺琛皓表示，AI技術(shù)發(fā)展讓對數(shù)據(jù)庫的攻擊變得更加多元化，這讓從端側(cè)進行輕量化、全面化的防御變得更為困難。因此，企業(yè)在構(gòu)建數(shù)據(jù)安全防護體系時，需要從硬件、系統(tǒng)、開發(fā)框架、數(shù)據(jù)、模型等多個方面入手，甚至還需要采取交互式防御手段，才能保證整個鏈路式的數(shù)據(jù)安全。
OPPO、華中科技大學、螞蟻金服、火山引擎、阿里云、復旦大學、西安交通大學、南京郵電大學15日聯(lián)合發(fā)布的《移動Agent安全技術(shù)白皮書》預測，移動Agent安全架構(gòu)將經(jīng)歷從“外掛式”防護到“內(nèi)生式”安全的根本性轉(zhuǎn)變，通過硬件重構(gòu)、系統(tǒng)重構(gòu)和協(xié)議重構(gòu)，構(gòu)建更加安全、可靠的基礎(chǔ)技術(shù)底座。其中，端云協(xié)同的機密計算環(huán)境將成為移動Agent安全的核心支撐，下一代移動平臺或?qū)⒄溪毩I安全引擎，實現(xiàn)模型參數(shù)和用戶數(shù)據(jù)的“內(nèi)存加密-計算隔離-密鑰輪換”全流程保護。
白皮書指出，盡管移動Agent安全技術(shù)前景廣闊，但仍面臨加密計算帶來的算力開銷可能影響用戶體驗、多樣化的硬件平臺和操作系統(tǒng)導致安全方案難以標準化、自主決策能力可能引發(fā)不可預知的安全事件三大核心挑戰(zhàn)，Agent安全技術(shù)需要破現(xiàn)有封閉格局，通過標準共建、算力端云協(xié)同、安全中間件構(gòu)建為產(chǎn)學研用一體化形成開放協(xié)同的全網(wǎng)生態(tài)。
在監(jiān)管層面，近年來對個人信息保護的監(jiān)管不斷加強，相關(guān)部門通過專項整治、常態(tài)化檢查等方式，推動企業(yè)的數(shù)據(jù)收集向最小、必要、透明、可控的方向加速轉(zhuǎn)變。然而，由于AI技術(shù)革新和落地的速度較快，因此監(jiān)管標準和政策的制定往往具有滯后性。
對此，藺琛皓表示，應盡快擬定初步的標準及相關(guān)規(guī)定，并跟隨AI技術(shù)的迭代不斷修訂。
傅山也認為，從標準制定角度看，由于AI變化發(fā)展迅速，且具有千人千面的特性，因此難以用單一標準管理所有場景。建議采用隱私分級的方式進行逐級遞增的管理和規(guī)范。“為了更好落實標準并保障合規(guī)性，需要對AI使用的數(shù)據(jù)進行分級處理，以便更好地適應政策要求并創(chuàng)造更多的創(chuàng)新空間。”
傅山強調(diào)，用戶在嘗試新功能、新應用時應仔細審查權(quán)限請求，謹慎授予訪問通訊錄、位置信息、相冊、麥克風等敏感數(shù)據(jù)權(quán)限，并經(jīng)常性檢查敏感數(shù)據(jù)的使用情況。“只有三方共同實現(xiàn)事前預防、事中把控、事后檢查，才能更好實現(xiàn)AI功能的安全使用。”(完)