|
||||||
未標(biāo)注的AI視頻，是對(duì)社會(huì)信任基石的侵蝕
你刷的短視頻，標(biāo)注“AI生成”了嗎？
“AI生成畫面”“疑似使用了AI生成技術(shù)，請(qǐng)謹(jǐn)慎甄別”“內(nèi)容為AI技術(shù)制作”……不知你在瀏覽信息、刷短視頻時(shí)是否注意到，一些圖文、視頻內(nèi)容加上了這樣的標(biāo)識(shí)信息。 前不久施行的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》（以下簡(jiǎn)稱《標(biāo)識(shí)辦法》）提出，對(duì)生成合成內(nèi)容強(qiáng)制添加顯式和隱式標(biāo)識(shí)等規(guī)范要求，即用AI生成的每一段文字、每一張圖片、每一條音頻、視頻，都必須強(qiáng)制亮明“數(shù)字身份證”。 近日，公安部公布了10起打擊整治網(wǎng)絡(luò)謠言典型案例。其中便有一件案例為使用“高空墜樓、家庭悲劇”等關(guān)鍵詞用AI生成視頻片段，并經(jīng)過二次剪輯后發(fā)布到網(wǎng)上。 截至10月31日，新規(guī)落地近兩個(gè)月。盡管各大平臺(tái)陸續(xù)上線標(biāo)識(shí)功能并配套相應(yīng)管理措施，但調(diào)查發(fā)現(xiàn)，短視頻、圖文筆記、直播間，仍有許多AI內(nèi)容未亮明身份。 你看的短視頻是真是假？——AI已滲透生活各個(gè)角落 10月1日至10月18日，有媒體在六大短視頻平臺(tái)的推薦頁面，分別隨機(jī)瀏覽了100條內(nèi)容。這六大平臺(tái)上，約有一半的AI視頻已有作者標(biāo)注的創(chuàng)作聲明，還有約三成內(nèi)容，雖無作者聲明，但被平臺(tái)在顯眼處標(biāo)識(shí)為“疑似內(nèi)容為AI生成”。 然而，未亮明任何標(biāo)識(shí)的AI內(nèi)容仍時(shí)常出現(xiàn)。10月12日，某社交平臺(tái)博主“獺X”發(fā)布了一條短視頻。畫面中，一只卡通水獺頭頂貝殼，泡在加冰的檸檬茶里，憨態(tài)可掬。這條視頻風(fēng)格獨(dú)特，高度疑似AI制作，但頁面沒有任何AI標(biāo)識(shí)。 統(tǒng)計(jì)發(fā)現(xiàn)，自9月23日起，該博主已發(fā)布21條同類風(fēng)格視頻，均無任何AI“身份標(biāo)識(shí)”。經(jīng)聯(lián)系核實(shí)，該博主承認(rèn)視頻確實(shí)為AI制作。 這并非個(gè)例。水獺屬于國(guó)家二級(jí)保護(hù)動(dòng)物，不少喜愛它的網(wǎng)友只能借助AI“云養(yǎng)水獺”。在該平臺(tái)上，“#水獺”話題擁有超過8.1億的瀏覽量。10月13日，在該話題下隨機(jī)瀏覽前20條內(nèi)容發(fā)現(xiàn)，其中12條明顯為AI制作。但在這12條中，9條沒有任何標(biāo)識(shí)，僅有3條為作者主動(dòng)聲明。 “目前平臺(tái)對(duì)于AI生成內(nèi)容的標(biāo)識(shí)識(shí)別，主要依靠顯性標(biāo)識(shí)?！币晃粯I(yè)內(nèi)人士解釋，受限于技術(shù)和算力成本，平臺(tái)多依靠視頻自帶的AI水印或作者主動(dòng)聲明來識(shí)別。如果一段視頻既無作者標(biāo)注，畫面又無水印，也非平臺(tái)自家工具生成，識(shí)別難度將大大增加。 具體怎么進(jìn)行“標(biāo)注”？——顯式標(biāo)識(shí)和隱式標(biāo)識(shí) 具體怎么“亮明身份”呢？《標(biāo)識(shí)辦法》明確，人工智能生成合成內(nèi)容標(biāo)識(shí)主要包括顯式標(biāo)識(shí)和隱式標(biāo)識(shí)兩種形式。 顯式標(biāo)識(shí)是指在生成合成內(nèi)容或者交互場(chǎng)景界面中添加的，以文字、聲音、圖形等方式呈現(xiàn)并可以被用戶明顯感知到的標(biāo)識(shí)，就像人臉一樣可以快速區(qū)分，讓普通用戶“一眼可見”。如文本內(nèi)容需在開頭、結(jié)尾或關(guān)鍵位置標(biāo)注“人工智能生成”或“AI生成”，字體需清晰可辨，不得刻意縮小或模糊等。 隱式標(biāo)識(shí)更像指紋，是指采取技術(shù)措施在生成合成內(nèi)容文件數(shù)據(jù)中添加的，不易被用戶明顯感知到的標(biāo)識(shí)。它側(cè)重于技術(shù)層面的追溯，要求在AI生成內(nèi)容的文件內(nèi)部嵌入元數(shù)據(jù)，且字段名稱必須包含“AIGC”標(biāo)識(shí)符號(hào)。元數(shù)據(jù)需涵蓋AI生成確認(rèn)狀態(tài)、生成服務(wù)提供方信息、內(nèi)容傳播平臺(tái)名稱、唯一編號(hào)以及數(shù)字簽名或哈希校驗(yàn)值等關(guān)鍵信息，為內(nèi)容溯源與責(zé)任認(rèn)定提供技術(shù)支撐。 中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院副院長(zhǎng)范科峰認(rèn)為，《標(biāo)識(shí)辦法》和《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識(shí)方法》協(xié)同發(fā)布，開創(chuàng)了技術(shù)標(biāo)準(zhǔn)與管理制度配合實(shí)施的新型治理模式。作為我國(guó)人工智能領(lǐng)域首部“辦法+強(qiáng)標(biāo)”組合拳，其在管理維度明確生成、傳播、分發(fā)全鏈條主體責(zé)任，在監(jiān)管維度建立審核、監(jiān)測(cè)、追責(zé)的閉環(huán)機(jī)制，在技術(shù)維度規(guī)范顯隱標(biāo)識(shí)體系并預(yù)留創(chuàng)新空間，這種三位一體的治理架構(gòu)為人工智能安全治理提供了清晰的實(shí)施路徑。 我們面臨哪些挑戰(zhàn)？——當(dāng)“虛構(gòu)”穿上“真實(shí)”的外衣 “兒子三年級(jí)，全班第一，每晚的真實(shí)強(qiáng)度?！?0月18日，博主“復(fù)旦爸爸帶娃記”發(fā)布的一條育兒筆記出現(xiàn)在某社交平臺(tái)的首頁推薦上。筆記先分享了孩子“不報(bào)補(bǔ)習(xí)班、早睡早起卻能保持優(yōu)異成績(jī)”的時(shí)間管理經(jīng)驗(yàn)，后話鋒一轉(zhuǎn)，推薦起某線上精讀課程。 然而，翻看該博主當(dāng)天發(fā)布的其他8條筆記，令人困惑的情況出現(xiàn)了：其“兒子”的年級(jí)在一至六年級(jí)之間來回變換，先后出現(xiàn)“兒子二年級(jí)，全班第一”“四年級(jí)全班第一的周末，學(xué)習(xí)和玩兩不誤”等相互矛盾的說法。而且，9條筆記使用的是同一張配圖。 “這是典型的AI圖配AI文?！蹦承旅襟w廣告公司招商負(fù)責(zé)人陳先生點(diǎn)出。仔細(xì)查看發(fā)現(xiàn)，配圖中孩子需要默寫的“詞語表”實(shí)際上全是亂碼，顯示出明顯的AI生成痕跡。然而，這條筆記既沒有作者主動(dòng)標(biāo)注的AI創(chuàng)作聲明，也沒有平臺(tái)添加的疑似AI標(biāo)識(shí)。 陳先生表示，這是教育行業(yè)新出現(xiàn)的“AI全包廣告”投放模式，即先用AIGC軟件批量合成圖片和生成文案，再將其批量投放至粉絲數(shù)量低于1000人的普通用戶賬號(hào)發(fā)布，“看似經(jīng)驗(yàn)分享，其實(shí)是產(chǎn)品引流，一條筆記的全包收費(fèi)在150元至200元之間，比起之前的人工種草筆記，內(nèi)容端能省不少錢?！?/FONT> 生成式人工智能、深度合成等新技術(shù)快速發(fā)展，為生成合成文本、圖片、音視頻等提供了便利工具，在促進(jìn)經(jīng)濟(jì)發(fā)展、豐富網(wǎng)上內(nèi)容、便利公眾生活的同時(shí)，也造成虛假信息傳播、破壞網(wǎng)絡(luò)生態(tài)等問題。 例如，一些未明確標(biāo)識(shí)的AI生成合成的視頻正扮演著“數(shù)字孫子”角色，通過提供情緒價(jià)值，將許多不明真相的老人哄得心花怒放，部分老人不顧家人勸阻，執(zhí)意購(gòu)買這些“孫子”在視頻里推薦的產(chǎn)品，最終陷入騙局。 我們?cè)撊绾螒?yīng)對(duì)？——在狂飆中建立“護(hù)欄” 技術(shù)的精進(jìn)很快催生了新的商業(yè)形態(tài)。今年清明節(jié)前后，淘寶、拼多多等電商平臺(tái)涌現(xiàn)出大批“AI復(fù)活逝者”服務(wù)，價(jià)格從99元到599元不等。商家宣稱，只需提供一張清晰照片和100字以上的人物生平，就能生成“開口說話”的30秒視頻。某店鋪顯示，其月銷量已突破2000單，評(píng)論區(qū)里滿是“謝謝讓我再聽外婆嘮叨”“媽媽笑得和以前一樣”的感慨。 事實(shí)上，監(jiān)管已在加速跟進(jìn)。2023年8月施行的《生成式人工智能服務(wù)管理暫行辦法》明確規(guī)定，AI服務(wù)不得侵害他人肖像權(quán)、名譽(yù)權(quán)，生成內(nèi)容需按規(guī)定標(biāo)識(shí)。今年，浙江省出臺(tái)《網(wǎng)絡(luò)直播營(yíng)銷行為規(guī)范指引》，首次對(duì)AI數(shù)字人直播作出規(guī)范，要求“不得通過AI偽造他人聲音肖像制作引流廣告”。北京查處的李梓萌AI代言案，更是首次將AI虛假宣傳納入《中華人民共和國(guó)廣告法》監(jiān)管框架。 司法實(shí)踐也在探索邊界。杭州互聯(lián)網(wǎng)法院曾審結(jié)我國(guó)首例虛擬數(shù)字人侵權(quán)案，認(rèn)定未經(jīng)授權(quán)使用AI數(shù)字人構(gòu)成著作權(quán)侵權(quán)，判決賠償12萬元。在“奧特曼虛擬形象侵權(quán)案”中，法院明確AI生成的虛擬形象受著作權(quán)法保護(hù)，侵權(quán)者需賠償6萬元。這些判例為AI侵權(quán)糾紛提供了司法參照。 奇安信集團(tuán)行業(yè)安全研究中心主任裴智勇表示：“當(dāng)前AI內(nèi)容管理規(guī)定與實(shí)際執(zhí)行之間仍存在落差，主要原因是缺乏有效的技術(shù)驗(yàn)證手段，導(dǎo)致仍有‘漏網(wǎng)之魚’?！彼硎荆壳捌脚_(tái)主要依賴末端檢測(cè)，如人工觀察或AI特征識(shí)別，這種方式算力消耗大、效率也不高。 裴智勇認(rèn)為，可借鑒網(wǎng)絡(luò)安全領(lǐng)域的經(jīng)驗(yàn)，建立視頻內(nèi)容溯源與可信認(rèn)證體系，以低成本驗(yàn)證AI生成內(nèi)容?！袄绮捎脭?shù)字簽名技術(shù)，要求視頻生產(chǎn)軟件自動(dòng)在文件中嵌入標(biāo)識(shí)來源和作者的數(shù)字簽名與標(biāo)簽?！彼忉?，這類標(biāo)簽對(duì)用戶無感，但平臺(tái)可借此區(qū)分人工與AI內(nèi)容。同時(shí)，平臺(tái)應(yīng)對(duì)未帶標(biāo)簽或標(biāo)簽不合規(guī)的視頻實(shí)施限流，通過技術(shù)實(shí)現(xiàn)客觀標(biāo)識(shí)。 據(jù)了解，許多大模型廠商已經(jīng)開始對(duì)AI生成合成內(nèi)容添加標(biāo)識(shí)。如DeepSeek發(fā)布公告稱，已在平臺(tái)內(nèi)對(duì)AI生成合成內(nèi)容添加標(biāo)識(shí)，并提醒用戶相關(guān)內(nèi)容由AI生成。用戶不得惡意刪除、篡改、偽造、隱匿此類生成內(nèi)容標(biāo)識(shí)，不得利用AI制作、傳播虛假信息、侵權(quán)信息以及從事任何違法違規(guī)活動(dòng)。 在中國(guó)社會(huì)科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心主任劉曉春看來，除技術(shù)手段外，還應(yīng)建立常態(tài)化的動(dòng)態(tài)評(píng)估與風(fēng)險(xiǎn)分級(jí)機(jī)制。她建議，監(jiān)管部門可按應(yīng)用場(chǎng)景風(fēng)險(xiǎn)等級(jí)實(shí)施差異化監(jiān)管，如將新聞資訊、商業(yè)推廣列為較高風(fēng)險(xiǎn)領(lǐng)域，執(zhí)行更嚴(yán)標(biāo)準(zhǔn)；創(chuàng)意娛樂等列為一般風(fēng)險(xiǎn)。 （綜合《人民日?qǐng)?bào)海外版》《北京晚報(bào)》《濟(jì)南晚報(bào)》等） |
