AI盜用烏女YouTuber肖像捏造親俄言論
【2024年5月19日訊】
一位烏克蘭女性發現,自己的樣貌和聲音被AI合成,在中國社交媒體宣揚中俄友誼及推銷俄產品,令身處烏克蘭的家人感憤怒。中國雖已立法規管AI,但專家指當地地下AI換臉活動猖獗,民眾權益難獲保障。
![](http://upload.wikimedia.org/wikipedia/commons/thumb/d/d1/A_trainer_instructing_a_data_annotator_on_how_to_label_images_by_Nacho_Kamenov_%26_Humans_in_the_Loop.jpg/220px-A_trainer_instructing_a_data_annotator_on_how_to_label_images_by_Nacho_Kamenov_%26_Humans_in_the_Loop.jpg)
年僅21歲、就讀賓夕法尼亞大學的烏克蘭YouTuber洛伊克(Olga Loiek)去年起發現,自己的臉出現在多個由AI製作的中國社交媒體影片中。影片中的「奧爾加」操著從未學過的普通話,宣揚中俄友誼,甚至化身俄國人推銷俄產品。
洛伊克向BBC表示:「我不希望有人認為我說過這些可怕的話。利用烏克蘭女孩的面孔宣傳俄羅斯,實在太瘋狂了。」中國是最早嘗試規管人工智能的國家之一,2023年已有公安機關拘捕515人,法院亦處理相關案件,但仍有大量冒用奧爾加形象的影片流傳。
這些使用奧爾加肖像的賬號多達35個,影片內容90%都在談論中俄友誼,其中最大的一個賬號「娜塔莎進口食品」更有30多萬關注者。「娜塔莎」除說着「俄羅斯是最好的國家」等言論,更推銷起俄羅斯糖果等產品。
奧爾加的未婚夫在社交媒體上揭發此事後,AI視頻生成平台HeyGen坦承已有4900多個使用奧爾加臉孔的影片被創建,並宣佈禁止再使用其肖像。港大副教授張湖月指,奧爾加的遭遇在中國並不罕見,中國有龐大的地下經濟,專門從事仿製、盜用個人數據和製作深度偽造。
博洛尼亞大學及魯汶大學法律與技術研究員海因(Emmie Hine)認為,傳播與政府宣傳意識形態一致的資訊,有利於降低被削除帖文的可能,即使這些賬戶與中共並無直接關聯。
牛津大學技術與地緣政治研究員布隆奎斯特(Kayla Blomquist)警告,普通人如奧爾加仍處弱勢,或遭人為製造政治敏感內容陷害,面臨未經正當程序的迅速懲罰。海因解釋,中國AI法規旨在平衡社會穩定與創新發展,雖規定嚴格,但有證據表明存選擇性執法,尤在生成式AI許可規則方面。
奧爾加遭遇引發外界關注AI監管。歐洲議會三月通過《人工智能法案》,美國總統拜登去年十月亦簽署行政命令,要求AI開發者與政府共享數據。海因指出,個人層面上,除避免在網上發佈內容,似乎無其他良策,不當利用者常有模仿他人的動機,即使政府打擊,AI濫用活動仍難根絕。
布隆奎斯特認為,儘管各地法規進展緩慢,但我們需對最危險的AI威脅有清晰認識和共識,而美中作為關鍵角色,在建立共識和協調聯合行動方面將面臨挑戰。
面對AI換臉,奧爾加決心不會因此退網。她在YouTube分享經歷,部分中國網民亦有在造假影片留言揭穿真相、指出造假,令不少影片現已被刪除。「我相信不會是AI技術的最後一名受害者。我想讓人明白,網上資訊未必盡真。我喜愛與世界分享想法,騙子無法阻止我。」
延伸閱讀
消息來源
- 王凡,烏克蘭YouTube主播如何被用AI「變身」俄羅斯人,BBC News 中文,2024年5月16日。
- Fan Wang,How AI turned a Ukrainian YouTuber into a Russian,BBC News,2024年5月15日。