美媒已經(jīng)開始害怕了：這樣的AI假信息恐淹沒明年大選

（觀察者網(wǎng)訊）“人工智能的快速發(fā)展，可能會(huì)讓2024年大選充斥著虛假視頻?！泵绹?guó)《華爾街日?qǐng)?bào)》6月5日以此為題發(fā)文稱，新興的生成式人工智能（AI）工具允許用戶更加輕松地合成圖片和視頻，這讓美國(guó)社會(huì)開始擔(dān)心，隨著政治分裂加劇，AI生成的虛假信息可能會(huì)干擾明年的美國(guó)總統(tǒng)選舉。

《華爾街日?qǐng)?bào)》報(bào)道截圖

(資料圖片僅供參考)

文章稱，美國(guó)民主、共和兩黨的顧問表示，他們已經(jīng)開始測(cè)試使用ChatGPT等工具幫助起草演講稿、籌款電子郵件和短信，以及建立選民檔案。盡管AI生成的內(nèi)容仍需要進(jìn)一步的審查和編輯，但這項(xiàng)技術(shù)可以大幅減少競(jìng)選活動(dòng)的籌備時(shí)間。

這似乎意味著，AI正在成為“規(guī)則的改變者”，它允許美國(guó)政客在不依賴顧問和數(shù)字專家的情況下，以更低的成本和更快的速度生成內(nèi)容，幫助政客在競(jìng)選活動(dòng)中實(shí)時(shí)響應(yīng)社會(huì)事件。

但《華爾街日?qǐng)?bào)》指出，隨著生成式AI的快速發(fā)展，成千上萬(wàn)的用戶只需輸入簡(jiǎn)單的信息，將可以合成復(fù)雜的視頻、照片、音頻和文本。這使得美國(guó)選舉官員面臨新的挑戰(zhàn)，即大量虛假信息可能干擾2024年美國(guó)總統(tǒng)選舉。

曾在美國(guó)前總統(tǒng)奧巴馬的競(jìng)選團(tuán)隊(duì)擔(dān)任數(shù)字總監(jiān)的泰迪·戈夫（Teddy Goff）說：“AI還不會(huì)創(chuàng)造出我們從未想象過的全新類型的虛假信息，但它會(huì)讓生成虛假信息變得更容易、更快速、更廉價(jià)。其影響將是相當(dāng)深遠(yuǎn)的。”

今年3月，美國(guó)網(wǎng)民使用AI生成的“特朗普被捕”圖片，一度在網(wǎng)上瘋傳

事實(shí)上，AI生成的虛假信息已經(jīng)開始干擾美國(guó)的政治活動(dòng)?！度A爾街日?qǐng)?bào)》舉例稱，在今年2月舉行的芝加哥市長(zhǎng)選舉第一輪投票前夕，社交媒體上出現(xiàn)了一段關(guān)于候選人保羅·瓦拉斯（Paul Vallas）的音頻，偽造瓦拉斯的聲音發(fā)表了“縱容警察暴力”的言論。

瓦拉斯在2月的第一輪投票中位居第一，但在4月舉行的第二輪投票中落敗。他的競(jìng)選經(jīng)理布萊恩·湯恩（Brian Towne）表示，競(jìng)選團(tuán)隊(duì)推測(cè)這段音頻是用AI偽造的，不過由于音頻沒有廣泛傳播，可能沒有對(duì)投票結(jié)果產(chǎn)生太大影響。

湯恩警告說，這起事件可能成為一個(gè)“危險(xiǎn)的先例”，“對(duì)于知情的選民來說，他們能夠確定音頻是偽造的。但還有會(huì)很多不知情的選民，他們可能只看到了一小段視頻，然后就傾向于投票反對(duì)候選人?！?

5月22日，美國(guó)社交媒體上還出現(xiàn)過一張“五角大樓附近發(fā)生爆炸”的圖片。盡管美國(guó)政府官員很快證實(shí)，相關(guān)圖片是用AI偽造的，圖片發(fā)布者的賬號(hào)已經(jīng)被封禁，但這起事件一度導(dǎo)致美國(guó)股市下跌，并引發(fā)混亂。

美國(guó)消費(fèi)者新聞與商業(yè)頻道5月22日?qǐng)?bào)道：“偽造五角大樓附近發(fā)生爆炸的AI生成圖像瘋傳”

《華爾街日?qǐng)?bào)》還提到，美國(guó)前總統(tǒng)特朗普的競(jìng)選團(tuán)隊(duì)和部分共和黨人最近也開始合成AI圖像，用于嘲諷民主黨陣營(yíng)。4月25日，在美國(guó)總統(tǒng)拜登宣布將競(jìng)選連任后，美國(guó)共和黨全國(guó)委員會(huì)在社交媒體上發(fā)布了一段視頻，描述了“拜登連任的噩夢(mèng)場(chǎng)景”。該視頻的畫面均由AI生成。

美國(guó)共和黨全國(guó)委員會(huì)4月25日推文截圖，使用AI生成了有關(guān)“拜登連任”的場(chǎng)景

美國(guó)監(jiān)管機(jī)構(gòu)已經(jīng)發(fā)出警告，稱AI技術(shù)可以被用于“邪惡目的”，例如傳播有關(guān)投票時(shí)間和地點(diǎn)、選民登記截止日期或投票方式的虛假信息。美國(guó)科技行業(yè)領(lǐng)袖也呼吁社交媒體構(gòu)建新的標(biāo)簽系統(tǒng)，幫助用戶確定相關(guān)信息是否由AI生成。

美國(guó)國(guó)家人工智能安全委員會(huì)負(fù)責(zé)人、谷歌前CEO埃里克·施密特（Eric Schmidt）稱，“顯然，用戶不應(yīng)該在不知道信息來源的情況下，受到虛假信息的影響?！闭诖罅ν顿YAI技術(shù)的美國(guó)谷歌和微軟公司都表示，它們已經(jīng)著手研發(fā)可以標(biāo)記AI生成內(nèi)容的工具。

出于對(duì)AI技術(shù)可能造成危害的擔(dān)憂，拜登政府開始考慮對(duì)ChatGPT等AI工具進(jìn)行審查。據(jù)《華爾街日?qǐng)?bào)》報(bào)道，美國(guó)商務(wù)部在4月11日正式就問責(zé)措施公開征求意見，包括新AI模型在發(fā)布前是否應(yīng)該通過認(rèn)證程序等問題。

本文系觀察者網(wǎng)獨(dú)家稿件，未經(jīng)授權(quán)，不得轉(zhuǎn)載。