国产在线高清精品,日本一卡二卡手机高清在线,国产精品欧美GIF,九九热线有精品视频20

中國網(wǎng)手機(jī)版
掃碼即可查看網(wǎng)頁

中國網(wǎng)客戶端
點(diǎn)擊查看下載頁面


立即查看

中國網(wǎng)

整治AI技術(shù)濫用亂象:讓真相“跑贏”謊言

字體:
分享到:
鏈接已復(fù)制

2月21日,中央網(wǎng)信辦發(fā)布2025年“清朗”系列專項(xiàng)行動(dòng)整治重點(diǎn)。明確提出整治AI技術(shù)濫用亂象,突出AI技術(shù)管理和信息內(nèi)容管理,強(qiáng)化生成合成內(nèi)容標(biāo)識(shí),打擊借AI技術(shù)生成發(fā)布虛假信息、實(shí)施網(wǎng)絡(luò)水軍行為等問題,規(guī)范AI類應(yīng)用網(wǎng)絡(luò)生態(tài)。

1月7日,西藏日喀則市定日縣突發(fā)6.8級(jí)地震。很快,一張令人揪心的照片在社交媒體上傳播:頭戴彩色毛線帽的孩童被壓在廢墟下,稚嫩的面龐滿是塵土,一雙黑亮的眼睛望向遠(yuǎn)方。

這張照片被一些自媒體賬號(hào)配上“日喀則地震”相關(guān)標(biāo)簽迅速傳播。有網(wǎng)友在評(píng)論區(qū)留言,詢問孩子安全。然而幾天后,“地震廢墟中小孩圖片是AI生成”的話題登上網(wǎng)絡(luò)熱搜。原來,這張照片2024年11月已出現(xiàn)在網(wǎng)絡(luò)上,當(dāng)時(shí)創(chuàng)作者明確標(biāo)注該圖系A(chǔ)I生成作品。部分自媒體賬號(hào)卻移花接木,用來博取眼球、收割流量。

“利用災(zāi)難加兒童的‘情感組合’,這條謠言在網(wǎng)絡(luò)上成為‘病毒式傳播’。”清華大學(xué)新聞與傳播學(xué)院副教授陸洪磊在接受中青報(bào)·中青網(wǎng)記者采訪時(shí)表示,在AI技術(shù)的加持下,網(wǎng)絡(luò)謠言已呈現(xiàn)出一些新特征,謠言制造者已形成“工業(yè)化造謠”模式,需通過平臺(tái)、有關(guān)部門與公眾協(xié)同構(gòu)建防御體系。

陸洪磊指出,傳統(tǒng)謠言傳播具有模糊性和隱晦性,但伴隨技術(shù)發(fā)展,“AI使得謠言越來越清晰、逼真,一些專業(yè)人士需要進(jìn)行專門的事實(shí)核查來確認(rèn)真?zhèn)?普通公眾更是難辨真假,需要引起警醒?!?/p>

北京師范大學(xué)法學(xué)院院長、教授梁迎修講述了身邊的一起真實(shí)案例。2024年年底,一名學(xué)生與前女友分手后,遭遇對方的網(wǎng)絡(luò)誹謗,因而陷入重度抑郁,不得已報(bào)警。

2月24日,今日頭條“平臺(tái)治理開放日”上發(fā)布的《2024年度治理報(bào)告》顯示,平臺(tái)全年累計(jì)攔截不實(shí)信息超500萬條,攔截和處置涉嫌詐騙內(nèi)容超200萬條。隨著人工智能的發(fā)展,今日頭條面臨諸多挑戰(zhàn)。去年,平臺(tái)攔截低質(zhì) AI內(nèi)容超 93萬條,處罰同質(zhì)化發(fā)文超781萬篇。

那么,如何將謠言扼殺于萌芽階段,防止其進(jìn)一步擴(kuò)散傳播?

梁迎修指出,法律是治理網(wǎng)絡(luò)謠言的有效手段,我國法律為網(wǎng)絡(luò)謠言治理提供了充分依據(jù)。刑法中有編造傳播虛假恐怖信息罪、侮辱罪、誹謗罪等罪名;民法典對謠言侵權(quán)責(zé)任有詳細(xì)規(guī)定;治安管理處罰法規(guī)定對網(wǎng)絡(luò)謠言傳播的行政制裁措施;網(wǎng)絡(luò)安全法等互聯(lián)網(wǎng)專門法律條款,明確了公民和平臺(tái)在維護(hù)網(wǎng)絡(luò)安全、打擊網(wǎng)絡(luò)謠言方面的責(zé)任。

“目前,生成式AI技術(shù)加劇了謠言的欺騙性,權(quán)利受損的個(gè)體維權(quán)需投入大量時(shí)間與經(jīng)濟(jì)資源,維權(quán)成本很高,治理謠言還需要法律與技術(shù)的雙重干預(yù)。”梁迎修表示,政府應(yīng)建立信息發(fā)布辟謠平臺(tái),平臺(tái)要采取必要措施防范謠言傳播,切實(shí)履行維護(hù)網(wǎng)絡(luò)生態(tài)的社會(huì)責(zé)任。媒體要及時(shí)轉(zhuǎn)發(fā)權(quán)威辟謠和真實(shí)信息,攜手推動(dòng)謠言治理。公眾要提升網(wǎng)絡(luò)素養(yǎng),積極參與相關(guān)培訓(xùn)。

今日頭條生態(tài)治理運(yùn)營負(fù)責(zé)人韓雨桐介紹,對于虛假謠言,今日頭條建立起三大核心治理能力,包括謠言庫、權(quán)威信源庫以及專業(yè)審核團(tuán)隊(duì),并于2024年在發(fā)文下方增加權(quán)威媒體報(bào)道來源標(biāo)簽,在保障資訊真實(shí)性的基礎(chǔ)上,為用戶提供更多客觀視角。針對近年來快速發(fā)展的AI技術(shù)和涌現(xiàn)的低質(zhì)內(nèi)容,平臺(tái)在鼓勵(lì)用戶使用AI提效的基礎(chǔ)上,保護(hù)原創(chuàng)空間,迅速升級(jí)、迭代AI模型的識(shí)別能力,加大AI內(nèi)容的審核力度。

陸洪磊表示,如果沒有AI技術(shù)助力謠言識(shí)別,僅靠傳統(tǒng)手段,此類虛假賬號(hào)及謠言的治理難度將顯著增大。

陸洪磊建議平臺(tái)建立謠言知識(shí)庫,對虛假內(nèi)容實(shí)施前置攔截,以AI技術(shù)識(shí)別AI謠言,著重強(qiáng)化機(jī)器識(shí)別模型訓(xùn)練,對多次違規(guī)賬號(hào)予以嚴(yán)懲,并對AI生成內(nèi)容進(jìn)行明確標(biāo)注;建立跨平臺(tái)線索互通機(jī)制,推動(dòng)相關(guān)法律細(xì)則落地實(shí)施。

同時(shí),他建議平臺(tái)開展辟謠教育,致力于提升公眾數(shù)字免疫力,倡導(dǎo)網(wǎng)民踐行“三秒原則”,即在轉(zhuǎn)發(fā)信息前,花三秒時(shí)間仔細(xì)思考其來源與邏輯合理性。

“一方面要消滅假的信息,另一方面要主動(dòng)傳播真實(shí)信息。”今日頭條內(nèi)容策劃負(fù)責(zé)人劉姍姍表示,2023年以來平臺(tái)推出《頭條講真的》項(xiàng)目,聯(lián)合醫(yī)學(xué)、財(cái)經(jīng)、法律等領(lǐng)域?qū)I(yè)創(chuàng)作者,為平臺(tái)治理工作拓展新的思路。截至2024年,《頭條講真的》發(fā)布科普、辟謠等主題視頻,全網(wǎng)話題討論量超36億,成為今日頭條健康和優(yōu)質(zhì)內(nèi)容生態(tài)的重要一環(huán)。

“針對謠言需要進(jìn)行協(xié)同治理,希望大家能夠攜手同行,助力網(wǎng)絡(luò)空間清朗健康發(fā)展?!标懞槔谡f。

(中國青年報(bào)客戶端北京2月24日電)


【責(zé)任編輯:鄭偉】