最近，有人宣稱，要在蘇州的金雞湖上開游艇趴，a報名費 3000 塊，每名參加者都會配備 「隨身女僕一名」。
舉辦者還附上了部分女僕的照片，看著很頂，但也很奇怪，因為有幾位 「女僕」 的手指扭曲得不合常理。
後來事兒鬧大了，警方介入，才發現這些女僕照片，居然全都是用 AI 生成的。
而諸如此類利用 AI 以假亂真的例子，在過去的一年裡可謂屢見不鮮，一再重新整理著我們對 「真實」 這兩個字的認知。
你所愛戀的，都是幻象
今年 2 月，海外多家媒體發文，稱付費色情平臺 OnlyFans 可能會在不遠的未來，被 AI 創造的色圖所沖垮。
媒體說這話的原因，是因為在推特平臺上，有一個名叫 「heartereum 的」 用戶上傳了數張由 AI 所生成的美女圖片。
乍看上去，圖裡的小姐姐們與真人別無二致。
只有仔細觀察，你才能發現她們身上的一處處 「不協調」，然後才意識到這些辣妹，其實都只是精致的 「人類糢仿品」。
雖然人是假的，但色卻是真的，就像下面這哥們所說的那樣：
不過 OnlyFans 的從業者倒是不擔心會被 AI 糢特搶走工作，平臺知名豔星 Laura Lux 表示，她賺錢的點不僅是裸露，還在於與粉絲的親密互動，這一點，AI 是無法勝任的。
在幾乎同一時間節點，國內的網路上也出現了一套由 AI 生成的小姐姐 Cosplay 圖。因其過於逼真，而被 B 站的審核直接分類進了 「仿妝 Cos 區」。
・Ai 生成的 cosplay 照，角色是《明日方舟》裡的緘默德克薩斯，創造者：勘雲工造
這事兒充滿一種 「齊馬藍式」 的科幻寓言感：
人類用 PS 修圖，努力將自己的面容 P 到完美，而 AI 卻努力去糢仿真人臉上的複雜與瑕疵，最後二者實現了某種動態平衡。
・男生也可以 ，創造者：海辛 Hyacinth
創造這套圖的，是國內的博主 「勘雲工造」。在他的微博時間線上，技術的迭代似乎每隔幾天就會出現一次。
當漂亮的寫真可以被人工智能愈發完美地一次次複現時，你可能就無法意識到，小紅書上那個名叫 「愛旅游的小多」 的美女博主，其實只是一個由 AI 所締造的存在。
德國的 ColorDigital，已經開始組建自己的 「數字糢特營銷團隊」，用被生成的、身材完美的 AI 糢特，來給各種潮牌做宣傳。
・A I 生成的
而要說 AI 合成圖像最近最狠的一次應用，那還得看 Youtube 博主 Kyle Vorbach—— 這哥們決定在社交媒體上，利用 AI 偽造出自己一個月的全部生活。
最開始，他只是在 Instagram 上生成了一張自己從未拍過的自拍照。
・AI 合成的
然後，Instagram 上的照片變成了小哥穿上了萬聖節的服裝；變成了他前往了紐約街頭，見到了自己的好友 —— 當然，這一切都是假的。
然而，它們卻成功騙過了小哥的朋友們。他們以為他真在紐約，有人甚至都準備打掃屋子迎接他了。
・AI 合成的
之後，小哥開始讓 AI 去完成它更多的幻想：他成了成功人士，搬到了紐約，和自己的愛犬住進了漂亮的公寓，在街頭偶遇名人……
・AI 合成 的
在千萬次的訓練下，AI 創造出了一條完全平行的時空線，在那些真的可怕的合成照片裡，小哥甚至開始覺得，機器所合成的他，似乎就是真正的他。
諸如此類的案例，正變得越來越多，而許多本不該被擊穿的 「真實底線」，也開始遇到了數字虛擬的全面刺破 —— 有人開始用 AI 生成的作品沽名釣譽，甚至開始搞數字詐騙。
你所看見的，都是虛假
從去年 10 月開始，Instagram 上火了一個叫 Jos Avery 的攝影師。
這個 Jos，以其精湛的人像攝影，在短時間內徵服了 3 萬多名粉絲。
並且，面對攝影新人的請教，Jos 還貼心地指導他們：「我這張照片，是用尼康 D810 拍的，用的是 24-70 毫米的鏡頭。」
然而在一段時間後，Jos 本人實在忍不住，向 Ars Technica 的記者坦言：「其實我根本就不是甚麼攝影師，這些人像都是我用 AI 生成出來的。」
這不禁讓人想起國內最近有個知名的畫師，因被曝出用 AI 繪畫而塌房，讓許多糢仿他作畫的萌新失去了繼續畫下去的動力，也讓許多網民開始了一場賽博獵巫 —— 逼畫師們自證在繪畫中沒用過人工智能輔助。
與之類似，當人類的容貌，可以被機器在短時間內創造出成百上千張，就會有像 Informa Systems 這樣的企業，用生成的臉孔創造假的員工，讓公司看上去有一個人數眾多的專業團隊。
同一時刻，Facebook 的母公司在去年底表示，在它們 2022 年的取締活動中，有三分之二的違禁賬戶，用的頭像是 AI 生成的。
這並不讓人感到意外，因為在 2022 年的一篇論文裡，研究者發現有 3 成到 5 成的美國人，根本就無法在真實臉孔和用 DeepFake 所生成的虛擬臉孔間做區分。
所以在 TikTok 上，由 AI 合成的明星整活兒類視頻遍地都是，難辨真假，比如下面的這個基努裡維斯：
對於騙子來說，DeepFake 實在是一件的趁手的工具。
去年 8 月，有個詐騙團隊就利用 DeepFake，偽造出一張數字貨幣公司高管的臉。騙子將這張假臉套在自己的面部，然後通過在線聊天軟體 Zoom，去和那些項目團隊的成員開會，讓他們以為自己正在和大公司的負責人對接。」
被 「偷臉」 的這位高管表示，這群騙子的技術很厲害:「他們唯一沒糢仿出來的，就是我在疫情期間胖出來的那 15 磅。」
不止面孔，像 Midjourney 這樣的圖像生成 AI，甚至會影嚮你對這個世界的認知。
譬如去年 9 月 26 日，東京時間淩晨 4 點 39 分，有一名家住東京的推特用戶，發了三張靜岡縣遭遇水災後的慘狀。
該貼被迅速轉發，許多網友又是震驚不已又是要籌措捐款。
結果在推文發出 11 小時後，原作者道歉，稱靜岡發水災是真的，但災情圖片卻是他用 AI 做出來的。他也知道撒謊不好，但就是舍不得海量的推特轉發和點贊。
無獨有偶，在今年 2 月初的土耳其敘利亞大地震後，也有人在網上用一張 「地震現場的救援圖」 來號召愛心人士們捐款，結果立刻就被眼尖的網友扒出來，說這圖上的人有六根手指，應該是用 Midjourney 做出來的。
而當被 AI 生成的圖像，配合上同樣被 AI 生成的音頻與文字時，那你所理解的一切真實，就將會迎來一場徹底的崩塌。
你所相信的，都在崩塌
在以假亂真這個層面，AI 合成的音頻絲毫不遜色於圖像。
上個月， ElevenLabs 發布了自家的語音合成平臺，原本是幫助電影和游戲配音，結果很快就被網友們拿來合成 「比爾・蓋茨稱新冠疫苗會造成艾滋病」，以及 「艾瑪・沃特森大聲朗讀《我的奮鬥》」。
而早在去年 12 月，中國臺灣的刑事局就已經破獲了一起 AI 語音詐騙案。
騙子先以 5 萬新臺幣的價格從科技公司購入詐騙電話的 AI 糢組，然後在 8 個月的時間裡群發上百萬次，賺了 2700 萬新臺幣的贓款。
而當 AI 合成視頻加上了 AI 合成音頻，你便能在社交媒體上刷到埃隆・馬斯克在鏡頭前懺悔自己吸毒過量，知名電臺主持人喬・羅根（Joe Rogan）教觀眾如何去亞馬遜購買他推薦的壯陽藥。
在算法的加持與混淆下，那個 「將名人的話語奉為真理」 的時代正在離我們遠去。
這還沒完。
前些日子，ChatGPT 正好在情人節前後大火，加拿大反欺詐中心便趁此機會警告世人：未來操縱感情殺豬盤的，很可能就是這些聰明的聊天 AI。
而安全公司 McaFee 的研究則表明，10 個人裡有 7 個都會把 AI 生成的情書，當成是真人所撰寫的甜言蜜語。
與此同時，美國知名科幻雜志《克拉克世界》被迫暫停投稿渠道，只因他們在短短一個月內，接到了 500 多篇由 AI 所生成的小說稿件。
・」 目前已關閉稿 件提交，原因不難猜出」by 克拉克世界
歐洲執法組織去年 9 月預言：「到 2026 年，全網有多達 90% 的在線內容可能是合成生成的。媒體將大多由人工智能生成與操縱。」
當然，為了防止以後互聯網上 「無內容可信」，各國也想出了相應的對策 —— 利用一套專門用來打假的 AI。
像南韓就聲稱將在 2 月的月底，用 AI 來輔助偵破電信詐騙案，而創造了 ChatGPT 的 OpenAI，最近剛研究出了一個專門鑒別 ChatGPT 的 AI。
這就讓以後的互聯網，變得越來越像一個 AI 神仙打架的地方了，變成了一個巨型的類生成對抗網路，而所謂的真假，不過是用來證明哪方 AI 更強的一個標準。
況且，根據去年 12 月安永發布的一篇文章，許多用來訓練 AI 的數據，本身也都是虛構出來的。
像現在一些頂尖的汽車公司，就用隨機生成出來的糢擬路況來訓練自動駕駛，而藥企則用千萬個用隨機數據做出的病历，來進行非物質層面的臨牀實驗。
相對於參考真實的案例去開發，AI 生成確實節省了大量的成本，也能將許多罕見的極端情況考慮在內。
・糢擬 駕駛環境
而我們也因此終於，走進了那片被《黑客帝國》稱為 「真實的荒漠」 的地方。
在那個地方，真實被 AI 托管，網路上的種種欺詐，像一個個被精心策劃的真相，沒有真與假，只有神經網路與複雜的算法。
來源：X 博士
傳播真相 探究歷史 支持正義 分享快樂
Follow @xiaxiaoqiang