去年研究人員發現幾個屬於不同AI圖像生成工具的公開資料庫，展示了生成AI把性勒索技術帶到全新等級，現在任何社交媒體用戶都有可能成為受害者，想避免成為受害者便要先瞭解這項新進威脅。
甚麼是性勒索？
性勒索的種類頗多，但都圍繞著威脅公開親密圖像或影片，以脅迫朋害者採取某些動作，又或者勒索金錢。過往性勒索的受害者通常是成年的工廠工人或曾與不可信人士分享親密內容的人，然而人工智能快速發展，尤其文字轉換成圖像技術的進行，從根本改變了遊戲規則。現在接近所有人公開最平凡的照片，也可能成為性勒索的受害者，因為生成AI令步驟更快更容易和更迫真地讓任何數碼照片中的人祼體，只需數秒就能把生成的祼體到某人的頭部。
雖然在AI出現前已存在這種技倆，不過需花費大量時間進行仔細的photoshop處理，現在只要文字描述想要的結果就能完成，而很多生成AI服務不太重視保護它們用來創建的內容，使情況進一步惡化，單在去年研究人員至少發現3個可公開存取的資料庫屬於這類服務，意味著生成的祼照能供互聯網上任何人存取。
如何發現AI圖像數據庫外洩
在去年10月，研究人員揭露一個公開資料庫含有超過100萬由AI生成的圖像和影像內容，據稱當中大部份屬於色情內容，數據庫沒有被加密或密碼保護，所以任何互聯網用戶都能夠存取。根據數據庫名稱和部份圖像的水印，研究人員認為它的來源是美國公司SocialBoog，專門為網紅和數碼行銷服務提供服務，公司網站也提供AI工具進行圖像或內容生成。然而進一步分析發現SocialBook本身沒有直接生成這些內容，在服務的界面裡的連結會導引至第三方服務(MagicEdit和Dream Pal)，都是用來創作圖像的工具，這些工具容許用戶通過文字形容生成圖畫，編輯上載照片和進行不同的視覺修改，不括創建色情內容和相貌更換。
這次洩漏與這些特定工具有關，數據庫含有這些工具的成果，包括人工智能和AI編輯圖像，研究人員懷疑部份圖像被上傳至人工智能系統是作為創作挑釁性圖像的參考，研究員指出每日大約1萬張被加入到數據庫，SocialBook否認與數據庫有任何關連，在通知公司外洩事故後，SocialBook網站上曾提及MagicEdit和DreamPal的網頁變成無法存取。
哪個服務才是外洩的源頭？
MagicEdit和DreamPal最初都以互動和用戶驅使的圖像和藝術角色視覺實驗工具推銷，可惜大部份這些功能被直接用來創作色情內容，例如MagicEdit提供AI工具進行虛擬更換衣服，及處理後一系列使女性圖像更暴露的風格，例如把日常服飾更換為泳衣或內衣，在宣傳資料中承諾，由普通變性感只需數秒。DreamPal則最初定位為AI驅動的角色扮演聊天，更明確表明其成人向的定位，網站提供創建理想女友服務，某些網頁直接涉及色情內容，在FAQ也提到聊天中的露骨內容過濾器已被停用，以免限制用戶的最親密幼想。
以上更項服務曾被暫停運作，DreamPal的網站暫時仍然無法存取，MagicEdit則似乎已重新運作，他們的應用程式已從App Store和Google Play下架。研究員表示，在2025年初發現過另外兩個公開數據庫含有AI生成圖像，其中一個屬於南韓的GenNomis，在9.5萬個記錄中，大部份是祼體的人物圖片，而且數據庫還收錄了多位名人童年時期的照片。
避免成為受害者
從以上事件看來，性勒索風險已不再局限於私人資訊或交換親密內容，在生成AI的年代，任何正常圖片一旦公開，都能被用來創作成有害內容，雖然這問題對女性特別嚴重，但男性也不能掉以輕心。保護社交媒體上的私隱，控制社交媒體上的私隱，限制公開的內容成為重要的自保考量，為免照片被用來創作有問題的內容，首先建議社交媒體的個人檔案盡量設定為私人。
資料來源：Kaspersky Blog
