加入極市專業CV交流群,與6000+來自騰訊,華為,百度,北大,清華,中科院等名企名校視覺開發者互動交流!更有機會與李開復老師等大牛群內互動!
同時提供每月大咖直播分享、真實項目需求對接、干貨資訊匯總,行業技術交流。點擊文末“閱讀原文”立刻申請入群~
本文轉載自:AI科技大本營(ID:)
2017 年后,偽造逼真圖像的 技術利用其將女性圖片嫁接至色情圖像內容引起了非議,用它惡意偽造的圖像開始大規模在互聯網上流傳,也給人們辨別圖像真假帶來了困擾。
如果說 對非技術人員有使用門檻的話,現在,一種比 更快、更易用的“變體”應用出現了,它叫 。
據 報道, 軟件使用神經網絡技術能將女性圖片中的衣物消除,讓照片看上去就像是真實裸照,尤其裸露皮膚面積越大,處理效果越好。其背后的團隊已經發布了 和 Linux 系統版本。
處理照片的范圍目前僅限于女性照片,這當然跟訓練數據集有關,其創建者解釋是因為裸體女性的圖像更容易在網上找到,同時他也希望開發一個男性版本軟件。
不過很快,在媒體報道后,迫于輿論壓力,使用 AI 創建女性假裸照的 就被其團隊關閉,其官網已無法打開。 團隊在其推文中表示他們大大低估了對該項目的受歡迎程度以及人們濫用它的可能性。
將不再出售,其他版本也將不會發布。該團隊還警告網友不要在線共享該軟件,這將違反該應用的服務條款。但他們同時承認,“(該應用)肯定會有一些副本”發布出來。
比 更快、更易用
據 報道,他們曾用體育畫報上的幾十張高分辨率的圖片進行測試,AI 算法準確地填充了衣服下的細節,獲得了最令人信服的結果。
在一封電子郵件中, 創建者告訴 ,該軟件基于加州大學伯克利分校的研究人員于 2017 年開發的 開源算法,它使用的是生成對抗網絡(GANs)。該算法類似于深度視頻中使用的算法,通過在超過 10,000 張女性裸體照片上不斷訓練以改進效果。
目前, 只需點擊一下即可在 30 秒內生成一張逼真的偽造裸照,但未來還可以提速。相比之下, 技術雖然在快速升級,但目前也至少需要數小時來生成可信的人臉偽造照片,而使用 軟件來將一張圖片 P 成逼真裸照也需要好幾分鐘。
應用的免費版本會在生成的裸照上放一個大水印以提醒人們圖片是假的,而付費版本只放了一個較小的水印,這可以很容易被裁減掉。該應用已經發售了幾個月, 團隊表示,“老實說,這個應用并不是那么好用”。
但它運行良好,已經引起了人們廣泛關注, 能夠很快偽造裸照并且可供任何人使用。
人們未對 的出現做好準備?
背后的創建者告訴 ,做該軟件是出于對技術的熱愛和好奇心,他并不是一個偷窺者作照片軟件有哪些,并指出 不會自動上傳圖像,只處理生成用戶想做的圖片。
與 軟件所造成的影響一樣,其最大的負面影響是這些照片可能會被用來騷擾女性,比如將女明星偽造成色情影片的女主角。
創建者也告訴 The Verge 稱,即便他不先做的話,別人也會很快制作像 這樣的軟件,因為技術門檻并不高。如果發現該軟件被濫用作照片軟件有哪些,他的團隊肯定會放棄它。 很快關閉也是因為其團隊認為人們并沒有為它的出現做好準備,即使未來人們會將該軟件使用在正途上。
很多人對 團隊的言論表達進行了批評。有人在評價 時表示,這非常可怕,侵犯了人們的隱私,如果任何人都可能成為這項技術的受害者,那這項技術不應該向公眾開放。
還有網友評論稱,正常人很難相信 團隊居然驚訝于人們會對該軟件有狂熱使用需求,即便該軟件已經撤下了,但相信很快就有它的復制品出現。
無論如何,類似的深度偽造圖像只會更快速易于制作,并且難以檢測,但如何防止濫用人們的圖像,目前鮮有良好的應對方法。
(完)