每經(jīng)編輯 何小桃 畢陸名    

深度造假（Deepfake）最新受害者出現(xiàn)了——全球頂流，泰勒·斯威夫特（Taylor Swift，中文綽號(hào)“霉霉”）。

近乎是在一夜之間，X、Facebook等社交平臺(tái)上便充斥了大量虛假“不雅照片”，而且瀏覽量已經(jīng)高達(dá)上千萬！盡管最早傳播這些圖片的賬號(hào)已被封禁，但照片的流傳仍未徹底阻斷。

圖片來源：視頻截圖

據(jù)九派新聞報(bào)道，泰勒·斯威夫特正在考慮對(duì)生成這些圖片的網(wǎng)站采取法律行動(dòng)?！癤”平臺(tái)表示正在“積極刪除相關(guān)圖片”。

Facebook方面，母公司Meta一名發(fā)言人稱：這些內(nèi)容違反了我們的政策，我們正在將其從我們的平臺(tái)上刪除，并對(duì)發(fā)布該內(nèi)容的賬戶采取行動(dòng)。

但也有網(wǎng)友說，這不是刪除的問題，這些照片一開始就不應(yīng)該出現(xiàn)在這些平臺(tái)上。對(duì)此Meta也做出了回應(yīng)，表示“會(huì)繼續(xù)監(jiān)測(cè)并及時(shí)刪除違規(guī)內(nèi)容”。

在26日白宮記者會(huì)上，發(fā)言人讓-皮埃爾被問及此事時(shí)表示，“我們對(duì)此類圖像流傳感到擔(dān)憂，更確切地說，是虛假圖像，這令人擔(dān)憂。”

“雖然社交媒體公司在內(nèi)容管理方面可以獨(dú)立做出決定，但我們認(rèn)為他們?cè)趫?zhí)行自己規(guī)則方面可以發(fā)揮重要作用，以防止錯(cuò)誤信息和未經(jīng)同意的真實(shí)人物私密圖像傳播?！弊?皮埃爾說。

她還補(bǔ)充說，網(wǎng)絡(luò)上的執(zhí)法不嚴(yán)對(duì)女性影響更大，她們是受到網(wǎng)絡(luò)騷擾和欺凌的主要目標(biāo)。讓-皮埃爾稱，這并不是新問題，是拜登和哈里斯政府從上任第一天起就優(yōu)先考慮的問題，“我們對(duì)此非常重視。再一次，這讓我們感到擔(dān)憂?！?/span>

圖片來源：視頻截圖

值得一提的是，這不是泰勒·斯威夫特第一次被AI“造假”。

據(jù)澎湃新聞1月17日?qǐng)?bào)道，就在不久前，由人工智能生成的假泰勒·斯威夫特（Taylor Swift）帶貨廣告在社交媒體Facebook上傳播。

“嘿你們好，我是泰勒·斯威夫特。由于包裝出錯(cuò)，有3000套Le Creuset（中文名譯為‘酷彩’）炊具套裝無法正常線下銷售，轉(zhuǎn)向線上出售。有一個(gè)好消息分享給你們，我與Le Creuset聯(lián)手進(jìn)行促銷——有20位忠實(shí)粉絲將免費(fèi)獲得贈(zèng)送的炊具套裝。”

AI生成的泰勒·斯威夫特推銷Le Creuset炊具視頻

涉事公司對(duì)此迅速做出回應(yīng)稱，Taylor Swift沒有參與任何消費(fèi)者贈(zèng)品活動(dòng)，所有關(guān)于產(chǎn)品促銷的活動(dòng)均來自官方社交活動(dòng)。AI“深度造假”技術(shù)合成了她的聲音，并將聲音與她的形象和Le Creuset廣告片段拼湊在一起。

當(dāng)受害者被引導(dǎo)至虛假網(wǎng)站后，會(huì)被要求支付9.96美元的運(yùn)費(fèi)。但號(hào)稱免費(fèi)送的廚具不會(huì)真的送出去。

Facebook母公司Meta也對(duì)這一欺詐活動(dòng)迅速做出了回應(yīng)。此后，Meta表示已經(jīng)刪除該廣告。

什么是AI“深度造假”？

深度造假（Deepfake）是英文“Deep learning”（深度學(xué)習(xí)）和“Fake”（偽造）的混成詞，指利用深度學(xué)習(xí)技術(shù)生成合成圖像、音頻或視頻的技術(shù)。

美國(guó)布法羅大學(xué)“媒體取證實(shí)驗(yàn)室”的計(jì)算機(jī)科學(xué)教授呂思偉（Siwei Lyu）表示，“霉霉”這起“深度造假”詐騙活動(dòng)很可能是利用文字轉(zhuǎn)語(yǔ)音服務(wù)制作的。這類工具可將腳本轉(zhuǎn)譯成聲音，并用唇語(yǔ)同步程序?qū)⑵浜铣芍烈曨l片段。

編輯|何小桃 畢陸名 蓋源源

校對(duì)|程鵬

封面圖片來源：視頻截圖

每日經(jīng)濟(jì)新聞綜合九派新聞、澎湃新聞、公開消息