男同學偽造裸照害長期恐懼　美17歲少女告AI公司與Telegram

隨著人工智慧（AI）生成假裸照的工具被濫用，導致真實受害案例頻傳。示意圖非當事人（pexels提供）

▲隨著人工智慧（AI）生成假裸照的工具被濫用，導致真實受害案例頻傳。（示意圖／非當事人，pexels提供）

圖文／鏡週刊

隨著人工智慧（AI）生成假裸照的工具被濫用，導致真實受害案例頻傳，美國社會對此議題的憂慮日益升高。美國《華爾街日報》16日報導，紐澤西州一名17歲少女近日向法院提起訴訟，控告AI裸照生成軟體「ClothOff」的開發公司，以及通訊軟體Telegram。

該少女主張，自己14歲時曾在IG上傳穿著泳裝的照片，結果被同校男學生利用ClothOff生成偽造裸照，並在同學群組中散布。她指出，這些經由AI工具製作的假影像令她長期陷入恐懼，也擔心這些照片可能被用於AI訓練。

少女的法律代理團隊由耶魯大學法學院教授與學生組成。他們指出，ClothOff的營運公司登記於英屬維京群島，而實際操作人員位於白俄羅斯。原告要求法院命令該公司刪除所有未經同意取得的影像，並禁止將此類影像用於AI模型訓練。

訴訟中也將Telegram列為名義上的被告。原告指稱，該平台允許自動化程式接入ClothOff，間接助長了違法影像的生成與傳播。對此，Telegram回應表示，非自願色情內容及相關生成工具在其使用條款中明確禁止，一經發現即予刪除，並稱已定期清除包括ClothOff在內的相關機器人。

《華爾街日報》指出，暗網上仍有使用者分享ClothOff連結，並用於製作兒童色情影像。舊金山市檢察官大衛（David Chiu）去年曾對包括ClothOff在內的16個主要「深偽裸照」網站提起訴訟，成功迫使其中10多個關閉。他表示，對ClothOff的訴訟仍在進行中，並強調「在所有經營者被追究責任之前，我們不會停止」。

★ 《鏡週刊》關心您：若自身或旁人遭受身體虐待、精神虐待、性侵害、性騷擾，請立刻撥打110報案，再尋求113專線，求助專業社工人員。