“每20個‘80后’中就有1人已經(jīng)去世”“廣州法院對一起某品牌汽車L3級自動駕駛追尾事故作出判決”“四川涼山發(fā)生山體滑坡災(zāi)害”……近期，多條消息進入公眾視野，事后被證明是使用AI編造的謠言，再度引發(fā)各界對于這類問題的關(guān)注和憂慮。
AI技術(shù)的迅猛發(fā)展，讓近年來卓有成效的網(wǎng)絡(luò)謠言治理面臨新的挑戰(zhàn)。
一方面，AI謠言成本更低、速度更快、傳播更廣�，F(xiàn)實表明，AI通過海量數(shù)據(jù)學(xué)習(xí)和對用戶行為、興趣的分析，更容易發(fā)現(xiàn)其中的模式和規(guī)律，反過來也更能“一本正經(jīng)地胡說八道”，何況還有文字、圖片、視頻等多種形式。去年4月，在公安部公布的10起打擊整治網(wǎng)絡(luò)謠言違法犯罪典型案例中，就有4起涉及使用AI造謠。最近，據(jù)南都大數(shù)據(jù)研究院不完全統(tǒng)計，2024年搜索熱度較高的50個國內(nèi)AI風(fēng)險相關(guān)輿情案例中，超1/5與AI造謠有關(guān)。
另一方面，相較于傳統(tǒng)的謠言，AI謠言的迷惑性、欺騙性和傷害性也更強。研究表明，近年來經(jīng)濟領(lǐng)域成為AI謠言多發(fā)高發(fā)重點領(lǐng)域，經(jīng)濟與企業(yè)類謠言占比攀升，嚴重侵害企業(yè)合法權(quán)益，破壞營商環(huán)境。其中，有的隨意編造“股市小作文”，導(dǎo)致股市波動，擾亂資本市場生態(tài)；有的惡意中傷企業(yè)，嚴重失實的內(nèi)容經(jīng)廣泛傳播，影響企業(yè)品牌聲譽；有的批量生成不實文章進行吸粉引流、非法牟利……與此形成鮮明對比的是，事后維權(quán)、調(diào)查往往面臨著取證難、舉證難等現(xiàn)實問題，讓企業(yè)和相關(guān)部門有心無力。
網(wǎng)絡(luò)不是法外之地，AI也不是“造謠工具”，全鏈條的有效治理迫在眉睫。從建立多層次法律法規(guī)體系，到開展一系列專項行動，我國針對濫用甚至違法使用人工智能亂象“亮劍”。比如最高法等聯(lián)合發(fā)布的《關(guān)于依法懲治網(wǎng)絡(luò)暴力違法犯罪的指導(dǎo)意見》中規(guī)定，對“利用‘深度合成’等生成式人工智能技術(shù)發(fā)布違法信息”的情形，依法從重處罰�！渡墒饺斯ぶ悄芊⻊�(wù)管理暫行辦法》明確提出，生成式人工智能服務(wù)提供者發(fā)現(xiàn)違法內(nèi)容的，應(yīng)當及時采取停止生成、停止傳輸、消除等處置措施，采取模型優(yōu)化訓(xùn)練等措施進行整改，并向有關(guān)主管部門報告�？傮w來看，由于AI謠言涉及主體多、背后產(chǎn)業(yè)鏈條長，從企業(yè)平臺、監(jiān)管部門、技術(shù)提供者、用戶等多方面發(fā)力，方能最大程度擠壓AI謠言的生存空間。
當然，如何在挑戰(zhàn)中尋得機遇，讓AI技術(shù)“加持”謠言治理同樣值得重視�？紤]到AI在謠言識別追蹤、自動辟謠等方面的實力和潛力，不少專家建議關(guān)注重點放在源頭治理上來。鼓勵人工智能在辟謠領(lǐng)域的創(chuàng)新應(yīng)用，不斷探索優(yōu)化應(yīng)用場景，“以魔法打敗魔法”是一條可行之路。
我們期待向上向善的AI，不僅意味著生成積極健康的優(yōu)質(zhì)內(nèi)容，也可以打開向虛假信息說“不”的新方式。
來源：《南方日報》作者：陸夷
編輯：曉佳
