中青報·中青網記者 王梓

在許多國家，計算機工程師和關注技術發展的政治人士多年來一直警告稱，成本低廉、獲取門檻低、功能日漸強大的人工智能（AI）工具，很快就能制造出以假亂真的圖像、視頻和音頻。在人的操縱下，AI可能欺騙選民，進而影響選舉。

(資料圖片僅供參考)

似乎就在不久前，合成的虛假圖像還多半是粗糙、難以令人信服的，社交媒體上傳播的虛假信息總是很快就被“打假”。人們相信，AI帶來的“深度偽造”至少幾年后才會出現。

美聯社報道稱，如今，復雜的生成性AI工具能在幾秒鐘內“克隆”某人的聲音和形象，制造出大量“假料”。只要綁定強大的社交媒體算法，AI就可以迅速鎖定受眾進行傳播，以前所未見的規模和速度破壞選舉。

“競選的骯臟伎倆又要刷新下限了。”美聯社寫道。

美國將在2024年舉行總統選舉。多國媒體預測，這將成為美國第一場廣泛使用AI工具的選舉，民主黨與共和黨都會將AI技術用于宣傳、籌款等活動。

以往需要競選團隊耗費大量時間準備的宣傳材料，AI能在極短時間內完成。風頭正勁的聊天機器人ChatGPT只需幾秒鐘，就能生成一份措辭華麗的演講稿。

技術專家警告稱，由于美國陷入政治極化，加上美國前總統特朗普輸掉2020年大選后抨擊選舉被“操縱”，許多選民對政壇和主流媒體的信任度大打折扣。有人可能利用這一點，用AI技術制造混亂。

據美國《紐約時報》報道，美國新聞可信度評估與研究機構News Guard和為數碼調查提供資源與培訓的Shadow Dragon公司都在5月發布報告稱，大量所謂的“新聞網站”和虛假用戶利用AI工具在網上發布虛假內容，比如捏造新聞事件和名人死亡的消息。

News Guard聯合創始人史蒂文·布里爾稱，該機構發現，有125個網站的內容完全或大部分由AI工具編寫，內容涵蓋新聞、醫療資訊、生活類文章等。

Shadow Dragon的研究人員通過篩查AI工具容易產生的錯誤和預設回復來尋找虛假內容，結果發現，在主流網站、社交媒體平臺甚至電商平臺的評論區中，都存在虛假內容。一篇關于俄烏沖突的文章中直白地寫著：“作為AI語言模型，我不能提供帶有偏見或關于政治的內容。”

布里爾指出，民眾很難知道自己看到的“新聞”是由誰提供的，這類虛假內容進一步降低了人們對新聞媒體的信任度。“新聞消費者對新聞來源的信任度越來越低，部分原因是，他們難以區分哪些消息可靠，哪些不可靠。”

據美國《今日美國》報和法新社報道，今年年初，一段“拜登與特朗普對噴”的假音頻在社交媒體上火了。3月，各國社交媒體上瘋傳“特朗普被警察拖走、關進監獄”的合成照片。4月，拜登宣布將參加大選后，共和黨全國委員會立刻發布了一條由AI生成的短視頻，展示“有史以來最弱的總統”拜登連任后“美國大亂”的景象：非法移民沖破邊界關卡，涌入美國；金融市場崩潰，華爾街陷入恐慌……

人們對這些“PS痕跡明顯”的內容一笑而過，但在專家眼中，它們是給美國社會的一次預警。拜登2020年競選團隊的首席技術官丹·伍茲警告，美國需要為應對“大規模虛假信息運動”做好準備。

AI對選舉的影響力令專家們不安：生成性AI工具能迅速產出競選電郵、視頻等宣傳材料，冒充候選人、誤導選民。“共和黨全國委員會承認自己用了AI，但其他人……不會承認。”美國網絡安全公司Forcepoint全球首席技術官佩特科·斯托揚諾夫說。

美聯社設想了一些“AI陷阱”：用總統候選人的聲音制作假音頻，指示選民在錯誤的日期投票；冒充候選人承認“犯罪”，或發布種族主義言論；散布和新聞報道截圖相似的圖片……“如果（假的）埃隆·馬斯克打電話給你，讓你投票給某位候選人，怎么辦？很多人會照辦。”美國艾倫人工智能研究所創始人奧倫·埃齊奧尼對美聯社說。

眾議員伊維特·克拉克擔心，AI工具可能被用來在大選期間煽動暴力。“我們必須跟上技術的發展，這很重要。我們必須設置一些‘護欄’。”她說，“只要一瞬間，AI就能欺騙人們。在忙碌的生活中，人們沒有時間去檢查每一條信息。被武器化的AI破壞力極強。”

5月30日，非營利組織人工智能安全中心發布了一封聯名公開信，稱“降低AI帶來的滅絕風險應成為全球優先事項，與大流行病、核戰爭等風險同等對待”。信中只有簡短的一句話，獲得了來自多國的超過350名科技行業領袖與專家聯署。

美國加州大學伯克利分校信息學院教授漢尼·法里德提醒人們，不要忽略另一種威脅：AI能輕易“制造”現實，也就能輕易否定現實：總統候選人被曝出了不當言論？不用慌，“甩鍋”給音頻造假就行。