中新網(wǎng)北京10月30日電(記者 吳濤)“一眼看去像是某領(lǐng)域?qū)＜遥Y(jié)果發(fā)現(xiàn)人物和身份都是AI虛構(gòu)的。”“宣傳圖片光鮮亮麗，實景卻相差萬里，后來才知是AI合成。”

　　隨著AI的廣泛應(yīng)用，AI廣告違規(guī)風(fēng)險越來越突出，這些內(nèi)容涉嫌違背公序良俗、侵權(quán)抄襲、虛假宣傳等。如何構(gòu)建有效的AI廣告治理體系，成為目前多個行業(yè)面臨的問題。

　　仍有AI內(nèi)容未做標識

　　一般來說，AI內(nèi)容指利用人工智能技術(shù)生成、合成的文本、圖片、音頻、視頻、虛擬場景等信息。如今，一些不法廣告主利用AI技術(shù)生成逼真但虛假的消費場景，活躍在短視頻、電商等平臺上。

　　此前由國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部等四部門發(fā)布的《人工智能生成合成內(nèi)容標識辦法》9月1日起正式實施，規(guī)定人工智能生成合成內(nèi)容應(yīng)有顯式標識和隱式標識。

　　記者在多個短視頻和電商平臺瀏覽發(fā)現(xiàn)，疑似為AI生成但同時又未打AI標識的內(nèi)容仍然可能出現(xiàn)，尤其是在2025年9月1日之前的存量宣傳內(nèi)容。有業(yè)內(nèi)人士表示，受限于技術(shù)和算力成本，平臺多依靠自帶的AI水印或作者主動聲明來識別，如果內(nèi)容非本平臺AI生成，則識別難度增加。

　　據(jù)CNNIC發(fā)布的數(shù)據(jù)顯示，截至2025年6月，我國生成式人工智能用戶規(guī)模達5.15億人，較2024年12月增長2.66億人。龐大的AI用戶數(shù)量背后，也給AI內(nèi)容治理提出更高的要求。

　　將如何治理AI廣告？

　　面對海量的AI內(nèi)容，傳統(tǒng)的人工審核方式已難以為繼。治理AI違規(guī)廣告，必須依靠技術(shù)本身。據(jù)了解，在AI生成活躍的短視頻社交平臺上，已有大模型技術(shù)應(yīng)用其中。

　　例如，有平臺表示，在AI標識方面，90%素材10分鐘內(nèi)完成審核，對比傳統(tǒng)審核效率提升了75%。對于涉及違規(guī)的廣告，大模型通過推理判斷，能快速提供精細化拒審理由，告知違規(guī)內(nèi)容出現(xiàn)在視頻中的具體時間點或具體畫面。

　　巨量引擎商業(yè)安全治理標準負責人項韻對中新網(wǎng)記者表示，針對違規(guī)行為設(shè)置了從預(yù)警整改、限制新開、賬戶封停、主體清退等梯度化、多元化處置體系，“今年第三季度已前置攔截涉AI違規(guī)素材84萬余個。”

　　快手平臺則表示，會在AI生成的內(nèi)容中添加“AI生成”顯示標識、以及嵌入文件元數(shù)據(jù)中的隱式標識。如內(nèi)容被平臺檢測為疑似AI內(nèi)容時，則進行顯著提示。

　　中國政法大學(xué)副教授、中國廣告協(xié)會法德委朱巍對中新網(wǎng)表示，鑒于AI技術(shù)的復(fù)雜性和應(yīng)用的廣泛性，AI治理需要實現(xiàn)跨領(lǐng)域的協(xié)同。需要監(jiān)管持續(xù)加碼，需要平臺強化責任，更需要網(wǎng)民切身參與。面對AI換臉宣傳、深度合成侵權(quán)等新型風(fēng)險，需要組建監(jiān)管、平臺、倫理委員會的 “共治聯(lián)盟”，形成治理合力。

　　中國廣告協(xié)會會長張國華近日表示，目前專門用于AI訓(xùn)練的優(yōu)質(zhì)語料依然稀缺，要從源頭上確保AI語料的真實性、合規(guī)性及其導(dǎo)向的正確性。

　　而對于如何識別潛在的AI謊言？“公安部網(wǎng)安局”公眾號29日發(fā)消息稱，對于圖片和視頻，仔細觀察是否存在AI生成的典型痕跡，例如人物手指數(shù)量異常、光影效果不自然、視頻口型與聲音不同步或背景模糊扭曲等。(完)