2月21日,中央網(wǎng)信辦發(fā)布2025年“清朗”系列專項行動整治重點。明確提出整治AI技術(shù)濫用亂象,突出AI技術(shù)管理和信息內(nèi)容管理,強化生成合成內(nèi)容標(biāo)識,打擊借AI技術(shù)生成發(fā)布虛假信息、實施網(wǎng)絡(luò)水軍行為等問題,規(guī)范AI類應(yīng)用網(wǎng)絡(luò)生態(tài)。
1月7日,西藏日喀則市定日縣突發(fā)6.8級地震。很快,一張令人揪心的照片在社交媒體上傳播:頭戴彩色毛線帽的孩童被壓在廢墟下,稚嫩的面龐滿是塵土,一雙黑亮的眼睛望向遠方。
這張照片被一些自媒體賬號配上“日喀則地震”相關(guān)標(biāo)簽迅速傳播。有網(wǎng)友在評論區(qū)留言,詢問孩子安全。然而幾天后,“地震廢墟中小孩圖片是AI生成”的話題登上網(wǎng)絡(luò)熱搜。原來,這張照片2024年11月已出現(xiàn)在網(wǎng)絡(luò)上,當(dāng)時創(chuàng)作者明確標(biāo)注該圖系A(chǔ)I生成作品。部分自媒體賬號卻移花接木,用來博取眼球、收割流量。
“利用災(zāi)難加兒童的‘情感組合’,這條謠言在網(wǎng)絡(luò)上成為‘病毒式傳播’。”清華大學(xué)新聞與傳播學(xué)院副教授陸洪磊在接受中青報?中青網(wǎng)記者采訪時表示,在AI技術(shù)的加持下,網(wǎng)絡(luò)謠言已呈現(xiàn)出一些新特征,謠言制造者已形成“工業(yè)化造謠”模式,需通過平臺、有關(guān)部門與公眾協(xié)同構(gòu)建防御體系。
陸洪磊指出,傳統(tǒng)謠言傳播具有模糊性和隱晦性,但伴隨技術(shù)發(fā)展,“AI 使得謠言越來越清晰、逼真,一些專業(yè)人士需要進行專門的事實核查來確認真?zhèn)危胀ü姼请y辨真假,需要引起警醒。”
北京師范大學(xué)法學(xué)院院長、教授梁迎修講述了身邊的一起真實案例。2024年年底,一名學(xué)生與前女友分手后,遭遇對方的網(wǎng)絡(luò)誹謗,因而陷入重度抑郁,不得已報警。
2月 24日,今日頭條“平臺治理開放日”上發(fā)布的《2024年度治理報告》顯示,平臺全年累計攔截不實信息超500萬條,攔截和處置涉嫌詐騙內(nèi)容超 200萬條。隨著人工智能的發(fā)展,今日頭條面臨諸多挑戰(zhàn)。去年,平臺攔截低質(zhì) AI 內(nèi)容超 93萬條,處罰同質(zhì)化發(fā)文超 781萬篇。
那么,如何將謠言扼殺于萌芽階段,防止其進一步擴散傳播?
梁迎修指出,法律是治理網(wǎng)絡(luò)謠言的有效手段,我國法律為網(wǎng)絡(luò)謠言治理提供了充分依據(jù)。刑法中有編造傳播虛假恐怖信息罪、侮辱罪、誹謗罪等罪名;民法典對謠言侵權(quán)責(zé)任有詳細規(guī)定;治安管理處罰法規(guī)定對網(wǎng)絡(luò)謠言傳播的行政制裁措施;網(wǎng)絡(luò)安全法等互聯(lián)網(wǎng)專門法律條款,明確了公民和平臺在維護網(wǎng)絡(luò)安全、打擊網(wǎng)絡(luò)謠言方面的責(zé)任。
“目前,生成式 AI 技術(shù)加劇了謠言的欺騙性,權(quán)利受損的個體維權(quán)需投入大量時間與經(jīng)濟資源,維權(quán)成本很高,治理謠言還需要法律與技術(shù)的雙重干預(yù)。”梁迎修表示,政府應(yīng)建立信息發(fā)布辟謠平臺,平臺要采取必要措施防范謠言傳播,切實履行維護網(wǎng)絡(luò)生態(tài)的社會責(zé)任。媒體要及時轉(zhuǎn)發(fā)權(quán)威辟謠和真實信息,攜手推動謠言治理。公眾要提升網(wǎng)絡(luò)素養(yǎng),積極參與相關(guān)培訓(xùn)。
今日頭條生態(tài)治理運營負責(zé)人韓雨桐介紹,對于虛假謠言,今日頭條建立起三大核心治理能力,包括謠言庫、權(quán)威信源庫以及專業(yè)審核團隊,并于2024年在發(fā)文下方增加權(quán)威媒體報道來源標(biāo)簽,在保障資訊真實性的基礎(chǔ)上,為用戶提供更多客觀視角。針對近年來快速發(fā)展的AI技術(shù)和涌現(xiàn)的低質(zhì)內(nèi)容,平臺在鼓勵用戶使用AI提效的基礎(chǔ)上,保護原創(chuàng)空間,迅速升級、迭代AI模型的識別能力,加大AI內(nèi)容的審核力度。
陸洪磊表示,如果沒有AI 技術(shù)助力謠言識別,僅靠傳統(tǒng)手段,此類虛假賬號及謠言的治理難度將顯著增大。
陸洪磊建議平臺建立謠言知識庫,對虛假內(nèi)容實施前置攔截,以AI 技術(shù)識別 AI 謠言,著重強化機器識別模型訓(xùn)練,對多次違規(guī)賬號予以嚴懲,并對 AI 生成內(nèi)容進行明確標(biāo)注;建立跨平臺線索互通機制,推動相關(guān)法律細則落地實施。
同時,他建議平臺開展辟謠教育,致力于提升公眾數(shù)字免疫力,倡導(dǎo)網(wǎng)民踐行“三秒原則”,即在轉(zhuǎn)發(fā)信息前,花三秒時間仔細思考其來源與邏輯合理性。
“一方面要消滅假的信息,另一方面要主動傳播真實信息。”今日頭條內(nèi)容策劃負責(zé)人劉姍姍表示,2023年以來平臺推出《頭條講真的》項目,聯(lián)合醫(yī)學(xué)、財經(jīng)、法律等領(lǐng)域?qū)I(yè)創(chuàng)作者,為平臺治理工作拓展新的思路。截至 2024年,《頭條講真的》發(fā)布科普、辟謠等主題視頻,全網(wǎng)話題討論量超 36億,成為今日頭條健康和優(yōu)質(zhì)內(nèi)容生態(tài)的重要一環(huán)。
“針對謠言需要進行協(xié)同治理,希望大家能夠攜手同行,助力網(wǎng)絡(luò)空間清朗健康發(fā)展。”陸洪磊說。