美國前總統特朗普上周六在他自己創辦的Truth Social社交平臺上寫道，他將于本周二在曼哈頓被捕，并敦促他的支持者對此進行“抗議”。

3月21日，特朗普口中的“周二”已經到來。他的預言并沒有實現，但大量的人工智能生成的圖像開始發酵，替他實現了這個預言。

(資料圖)

網絡上開始瘋狂流傳他在曼哈頓“被捕”的圖片，許多人誤以為真。

01 特朗普“被捕”??????

路透社報道稱，第一個發布這些圖片的網友名叫埃略奧特·希金斯 (Eliot Higgins) ，他將圖片傳到了推特上。

他的帖子中也寫道，“在等待特朗普被捕的時候制作了特朗普被捕的圖片”。這位網友還發布了一系列照片，里面有小特朗普、梅拉尼亞等人，也有特朗普“受審”和“鐵窗淚”等場景。

其中最受歡迎的圖片都是搞笑且有戲劇性的。例如顯示特朗普被執法人員抓住，在掙扎中喘著粗氣，以及特朗普從逮捕他的人手里逃跑的那張。

顯然，這些照片都是假的，全都是人工智能生成 (AI-generated) ，而非真實事件，目前已被“辟謠”。并且特朗普看起來不是那種會拼命掙扎的人（這位前總統有個著名的觀點，那就是人體含有的能量是有限的，就像電池一樣，因此他認為鍛煉會消耗這些能量）。

推特的長期在線用戶和人工智能愛好者，可能第一眼就能認出這些假圖片。但也有很多人并沒有，甚至會提出疑問：“為什么特朗普被捕沒有成為新聞”？?

面對網友的疑惑，希金斯說明了自己在AI生成過程中發布的指令：“特朗普在被捕過程中摔倒。新聞報道畫面。” 隨后AI給出了下面的圖片。

02 危險信號來臨

事實上，這些圖像都是由Midjourney生成的。該公司最近發布了一個產品更新，極大的提高了其生成令人信服的假圖的能力。

談到AI生成的圖像，現在已經出現了一些明顯的危險信號。

人工智能曾經很難描繪人手（任何藝術家都會告訴你，精細的手部線條是很難畫出來的）。缺失的、扭曲的四肢，以及多余的手指和牙齒，曾經使人工智能生成的圖像充滿了一種陰森詭異的氣質，就好像恐怖電影里的變形惡魔在試圖模仿人類的形態。

但那已經是過去式了——Midjourney現在可以創作出令人信服的手部圖像（起碼是足夠接近令人信服的程度）。

如果你仔細觀察“特朗普被捕”的圖片，會發現里面仍有畸形的手和四肢，背景人群的臉也像融化的蠟燭。寫實風格的人工智能生成圖像有一種不自然的的光澤和質感，就像一張被太多美化濾鏡扭曲的自拍。

然而，這些線索沒有那么簡單被覺察。容易受到錯誤信息影響的互聯網用戶即將面臨“假新聞”的海嘯——我們都是。

人工智能生成圖像中存在的奇怪問題，可以很容易就被幾分鐘的Photoshop，或者一點動態模糊、像素化所掩蓋。深度造假的潛在危險已被討論了多年，而其相關技術也在不斷改進。

03 生成式AI加速輿論爆發

一般來說，生成式AI通常不會產生偉大的、有洞察力的藝術（盡管Infinite Nothing Twitch流非常有趣），但它確實提供了一個快速創造梗圖和錯誤信息的機會，而這兩者之間的界限一直很模糊。

人工智能的軍備競賽正進行得如火如荼，生成式人工智能已經能夠生成令人信服的語音、圖像和文本。

目前，已經有人使用聲音生成器來制作了很多美國總統參加說唱比賽和《我的世界》(Minecraft) 游戲錦標賽的奇怪視頻（拜登總統已被證明是這種新興的梗圖非常受歡迎的主題，他經常被描繪成一個滿嘴臟話、沉迷成癮性藥物的游戲玩家）。

特朗普的忠實支持者表示，他們愿意相信特朗普告訴他們的任何事情，但還有很多選民仍在努力追趕社交媒體時間軸上噴涌而出的錯誤信息；當人工智能生成的大量照片和視頻扭曲了我們對現實的共同認知時，屆時會發生什么?

最近，百度旗下文心一言的AI繪圖功能也制造出不少熱梗，成為網友們的快樂源泉。尤其是對中國菜，文心一言有著屬于自己的獨特理解。?

互聯網時代下，迷信、陰謀論式的恐慌和錯誤信息在社交媒體上盛行。但這并不意味著事情不會變得更糟；事實上，它們可以，而且很可能會。

社交媒體用戶已經被算法引導進了符合他們信仰的信息繭房。像QAnon這樣的致幻信仰系統就是從當前的互聯網生態系統中產生的，我們現在可以想象一下惡意行為者可以用生成式人工智能做些什么。

如果面對大量難以驗證的顯示犯罪跡象的圖像，許多人可能會選擇相信符合他們偏見的信息，而將真實的證據視為虛假。

雖然這種情況已經發生了，但人工智能正在給制造這種輿論場的人提供一些鋒利的工具，并擴大了潛在受害者的范圍。

本文作者為福布斯資深撰稿人，文章內容僅代表作者本人觀點。

https://www.forbes.com/sites/danidiplacido/2023/03/22/ai-generated-images-of-donald-trump-getting-arrested-foreshadow-a-flood-of-memes-fake-news/

關鍵詞：