網紅「小玉」朱玉宸以深偽技術(Deepfake)做出換臉A片牟利,不少女性名人受害,他還賣換臉軟體,強調這套換臉神器「網紅、素人皆可換」,專家擔心換臉軟體恐淪為報復工具,對象可以是分手的情人、討厭的上司,透過網路傳播,數位霸凌的烙印難以抹滅,這項「數位易容術」也成為性別暴力的加害工具。
小玉團隊賣「盜臉駭客—中文手機換臉」軟體,還教網友製作換臉影片,並強調團隊已開發出讓機器深度學習逾二百萬次的高階模型,讓菜鳥也能快速上手製作。
「走在路上都會擔心對方是不是看過我的影片」、「每天都活在恐懼之中」,數名受害者向台灣數位女力聯盟求助,揭露當下已不再是「有圖有真相」的殘酷世界,反而因為假影片太擬真,一部片就能毀掉一個人的形象。但受害者不敢出來澄清,怕被公開報復,也擔心更多人去搜尋影片。
聯盟秘書長張凱強說,之前有受害者報警後,影片被公開為免費版,甚至製作更多影片供網友觀看,對當事人造成很大傷害,更多影片不斷流傳,也會讓大家信以為真,加上當時不知道製作影片的幕後集團是在台灣或境外,怕警方查不到,多數受害者只能忍氣吞聲。
衛福部統計,去年違反「兒童及少年性剝削防制條例」的通報案件共一六九六件,其中一三三三件屬於拍攝兒童或少年性交或猥褻行為與物品,占全數犯罪型態近八成,與二○一七年五八一件相比已翻倍成長。其中在社群網站、通訊軟體等平台查獲者多達一二三九件,占犯罪工具的七成,可見數位科技的犯罪比例很高,這波深偽技術的流行,專家也憂心衝擊青少年。
張凱強指出,只要有對方足夠數量和清晰的個人照,人人都可以「被變臉」,他擔心臉書等社群軟體發達,許多青少年喜歡上傳自拍照,若被有心人盯上,恐會被脅迫以金錢、性交易。
深偽技術門檻降低,被用來詐騙已屢見不鮮。二○一九年有不肖人士以語音合成,冒充英國能源公司德籍CEO進行詐騙,歹徒連CEO的德國口音都做到不被懷疑。
台灣科技大學資訊管理系主任查士朗觀察,目前要做出以假亂真的影片,投入的資金和苦工較大,相較之下,聲音更容易偽造;台灣的電話詐騙案層出不窮,未來恐怕更能精確仿冒熟人的聲音,詐騙更容易得手。