自2025年1月1日起，寧波市將免費(fèi)乘坐公交車(chē)的年齡從70周歲降低至65周歲……”如果你通過(guò)AI咨詢(xún)“多大年紀(jì)的老年人在寧波可以免費(fèi)乘坐公交”相關(guān)問(wèn)題，可能會(huì)獲得這樣的回答。然而，這個(gè)看上去有鼻子有眼的回答，卻是一條徹頭徹尾的假消息。

近年來(lái)，生成式AI迅速進(jìn)入我們的生活 通過(guò)簡(jiǎn)單提問(wèn)，就 ——能快速生成文本、圖片、音頻、視頻和虛擬場(chǎng)景，已廣泛應(yīng)用于多個(gè)方面。與此同時(shí)，涉及AI造假、造謠的現(xiàn)象也日益增多，例如AI假冒名人帶貨事件已發(fā)生多起，AI生成的假消息同樣不少，對(duì)公眾造成誤導(dǎo)，擾亂了社會(huì)秩序。

詢(xún)問(wèn)同樣一個(gè)問(wèn)題，為何不同AI軟件給出不同答案，有的為何公然說(shuō)謊？有AI軟件客服表示，目前這類(lèi)軟件存在較多局限性，生成內(nèi)容可能不準(zhǔn)確，正在持續(xù)優(yōu)化相關(guān)模型體驗(yàn)。筆者以為，這應(yīng)該與某些AI軟件大模型在采集數(shù)據(jù)時(shí)“胡子眉毛一把抓”、沒(méi)有側(cè)重權(quán)威渠道有關(guān)。

而且某些AI軟件生成的內(nèi)容除不實(shí)外，還存在語(yǔ)句不通、錯(cuò)別字較多等常識(shí)性弊病，反映出這些AI軟件目前尚不成熟。對(duì)此，我們既要以包容心態(tài)來(lái)看待，鼓勵(lì)其不斷發(fā)展、走向成熟，同時(shí)也有必要提醒相關(guān)平臺(tái)以負(fù)責(zé)任態(tài)度完善技術(shù)手段，盡可能減少或避免“AI公然說(shuō)謊”等問(wèn)題。

從現(xiàn)實(shí)情況看，防范“AI公然說(shuō)謊”等問(wèn)題，需要平臺(tái)在對(duì)AI軟件生成的內(nèi)容進(jìn)行顯著標(biāo)識(shí)外，同時(shí)提醒用戶(hù)通過(guò)權(quán)威渠道去核實(shí)信息。應(yīng)根據(jù)不同情況完善AI大模型，并明確其數(shù)據(jù)采集源頭，比如涉及公共服務(wù)的數(shù)據(jù)就應(yīng)依托權(quán)威渠道采集、使用。

作者：馮海寧 來(lái)源：《湖南日?qǐng)?bào)》

編輯：林夕