2月21日，中央網(wǎng)信辦發(fā)布2025年“清朗”系列專項行動整治重點。明確提出整治AI技術(shù)濫用亂象，突出AI技術(shù)管理和信息內(nèi)容管理，強化生成合成內(nèi)容標(biāo)識，打擊借AI技術(shù)生成發(fā)布虛假信息、實施網(wǎng)絡(luò)水軍行為等問題，規(guī)范AI類應(yīng)用網(wǎng)絡(luò)生態(tài)。
1月7日，西藏日喀則市定日縣突發(fā)6.8級地震。很快，一張令人揪心的照片在社交媒體上傳播：頭戴彩色毛線帽的孩童被壓在廢墟下，稚嫩的面龐滿是塵土，一雙黑亮的眼睛望向遠方。
這張照片被一些自媒體賬號配上“日喀則地震”相關(guān)標(biāo)簽迅速傳播。有網(wǎng)友在評論區(qū)留言，詢問孩子安全。然而幾天后，“地震廢墟中小孩圖片是AI生成”的話題登上網(wǎng)絡(luò)熱搜。原來，這張照片2024年11月已出現(xiàn)在網(wǎng)絡(luò)上，當(dāng)時創(chuàng)作者明確標(biāo)注該圖系A(chǔ)I生成作品。部分自媒體賬號卻移花接木，用來博取眼球、收割流量。
“利用災(zāi)難加兒童的‘情感組合’，這條謠言在網(wǎng)絡(luò)上成為‘病毒式傳播’。”清華大學(xué)新聞與傳播學(xué)院副教授陸洪磊在接受中青報?中青網(wǎng)記者采訪時表示，在AI技術(shù)的加持下，網(wǎng)絡(luò)謠言已呈現(xiàn)出一些新特征，謠言制造者已形成“工業(yè)化造謠”模式，需通過平臺、有關(guān)部門與公眾協(xié)同構(gòu)建防御體系。
陸洪磊指出，傳統(tǒng)謠言傳播具有模糊性和隱晦性，但伴隨技術(shù)發(fā)展，“AI 使得謠言越來越清晰、逼真，一些專業(yè)人士需要進行專門的事實核查來確認真?zhèn)危胀ü姼请y辨真假，需要引起警醒。”
北京師范大學(xué)法學(xué)院院長、教授梁迎修講述了身邊的一起真實案例。2024年年底，一名學(xué)生與前女友分手后，遭遇對方的網(wǎng)絡(luò)誹謗，因而陷入重度抑郁，不得已報警。
2月 24日，今日頭條“平臺治理開放日”上發(fā)布的《2024年度治理報告》顯示，平臺全年累計攔截不實信息超500萬條，攔截和處置涉嫌詐騙內(nèi)容超 200萬條。隨著人工智能的發(fā)展，今日頭條面臨諸多挑戰(zhàn)。去年，平臺攔截低質(zhì) AI 內(nèi)容超 93萬條，處罰同質(zhì)化發(fā)文超 781萬篇。
那么，如何將謠言扼殺于萌芽階段，防止其進一步擴散傳播？
梁迎修指出，法律是治理網(wǎng)絡(luò)謠言的有效手段，我國法律為網(wǎng)絡(luò)謠言治理提供了充分依據(jù)。刑法中有編造傳播虛假恐怖信息罪、侮辱罪、誹謗罪等罪名；民法典對謠言侵權(quán)責(zé)任有詳細規(guī)定；治安管理處罰法規(guī)定對網(wǎng)絡(luò)謠言傳播的行政制裁措施；網(wǎng)絡(luò)安全法等互聯(lián)網(wǎng)專門法律條款，明確了公民和平臺在維護網(wǎng)絡(luò)安全、打擊網(wǎng)絡(luò)謠言方面的責(zé)任。
“目前，生成式 AI 技術(shù)加劇了謠言的欺騙性，權(quán)利受損的個體維權(quán)需投入大量時間與經(jīng)濟資源，維權(quán)成本很高，治理謠言還需要法律與技術(shù)的雙重干預(yù)。”梁迎修表示，政府應(yīng)建立信息發(fā)布辟謠平臺，平臺要采取必要措施防范謠言傳播，切實履行維護網(wǎng)絡(luò)生態(tài)的社會責(zé)任。媒體要及時轉(zhuǎn)發(fā)權(quán)威辟謠和真實信息，攜手推動謠言治理。公眾要提升網(wǎng)絡(luò)素養(yǎng)，積極參與相關(guān)培訓(xùn)。
今日頭條生態(tài)治理運營負責(zé)人韓雨桐介紹，對于虛假謠言，今日頭條建立起三大核心治理能力，包括謠言庫、權(quán)威信源庫以及專業(yè)審核團隊，并于2024年在發(fā)文下方增加權(quán)威媒體報道來源標(biāo)簽，在保障資訊真實性的基礎(chǔ)上，為用戶提供更多客觀視角。針對近年來快速發(fā)展的AI技術(shù)和涌現(xiàn)的低質(zhì)內(nèi)容，平臺在鼓勵用戶使用AI提效的基礎(chǔ)上，保護原創(chuàng)空間，迅速升級、迭代AI模型的識別能力，加大AI內(nèi)容的審核力度。
陸洪磊表示，如果沒有AI 技術(shù)助力謠言識別，僅靠傳統(tǒng)手段，此類虛假賬號及謠言的治理難度將顯著增大。
陸洪磊建議平臺建立謠言知識庫，對虛假內(nèi)容實施前置攔截，以AI 技術(shù)識別 AI 謠言，著重強化機器識別模型訓(xùn)練，對多次違規(guī)賬號予以嚴懲，并對 AI 生成內(nèi)容進行明確標(biāo)注；建立跨平臺線索互通機制，推動相關(guān)法律細則落地實施。
同時，他建議平臺開展辟謠教育，致力于提升公眾數(shù)字免疫力，倡導(dǎo)網(wǎng)民踐行“三秒原則”，即在轉(zhuǎn)發(fā)信息前，花三秒時間仔細思考其來源與邏輯合理性。
“一方面要消滅假的信息，另一方面要主動傳播真實信息。”今日頭條內(nèi)容策劃負責(zé)人劉姍姍表示，2023年以來平臺推出《頭條講真的》項目，聯(lián)合醫(yī)學(xué)、財經(jīng)、法律等領(lǐng)域?qū)I(yè)創(chuàng)作者，為平臺治理工作拓展新的思路。截至 2024年，《頭條講真的》發(fā)布科普、辟謠等主題視頻，全網(wǎng)話題討論量超 36億，成為今日頭條健康和優(yōu)質(zhì)內(nèi)容生態(tài)的重要一環(huán)。
“針對謠言需要進行協(xié)同治理，希望大家能夠攜手同行，助力網(wǎng)絡(luò)空間清朗健康發(fā)展。”陸洪磊說。