AI盜用烏女YouTuber肖像捏造親俄言論

【2024年5月19日訊】

一位烏克蘭女性發現，自己的樣貌和聲音被AI合成，在中國社交媒體宣揚中俄友誼及推銷俄產品，令身處烏克蘭的家人感憤怒。中國雖已立法規管AI，但專家指當地地下AI換臉活動猖獗，民眾權益難獲保障。

年僅21歲、就讀賓夕法尼亞大學的烏克蘭YouTuber洛伊克（Olga Loiek）去年起發現，自己的臉出現在多個由AI製作的中國社交媒體影片中。影片中的「奧爾加」操著從未學過的普通話，宣揚中俄友誼，甚至化身俄國人推銷俄產品。

洛伊克向BBC表示：「我不希望有人認為我說過這些可怕的話。利用烏克蘭女孩的面孔宣傳俄羅斯，實在太瘋狂了。」中國是最早嘗試規管人工智能的國家之一，2023年已有公安機關拘捕515人，法院亦處理相關案件，但仍有大量冒用奧爾加形象的影片流傳。

這些使用奧爾加肖像的賬號多達35個，影片內容90%都在談論中俄友誼，其中最大的一個賬號「娜塔莎進口食品」更有30多萬關注者。「娜塔莎」除說著「俄羅斯是最好的國家」等言論，更推銷起俄羅斯糖果等產品。

奧爾加的未婚夫在社交媒體上揭發此事後，AI視頻生成平台HeyGen坦承已有4900多個使用奧爾加臉孔的影片被創建，並宣布禁止再使用其肖像。港大副教授張湖月指，奧爾加的遭遇在中國並不罕見，中國有龐大的地下經濟，專門從事仿製、盜用個人數據和製作深度偽造。

博洛尼亞大學及魯汶大學法律與技術研究員海因（Emmie Hine）認為，傳播與政府宣傳意識形態一致的資訊，有利於降低被削除帖文的可能，即使這些賬戶與中共並無直接關聯。

牛津大學技術與地緣政治研究員布隆奎斯特（Kayla Blomquist）警告，普通人如奧爾加仍處弱勢，或遭人為製造政治敏感內容陷害，面臨未經正當程序的迅速懲罰。海因解釋，中國AI法規旨在平衡社會穩定與創新發展，雖規定嚴格，但有證據表明存選擇性執法，尤在生成式AI許可規則方面。

奧爾加遭遇引發外界關注AI監管。歐洲議會三月通過《人工智能法案》，美國總統拜登去年十月亦簽署行政命令，要求AI開發者與政府共享數據。海因指出，個人層面上，除避免在網上發佈內容，似乎無其他良策，不當利用者常有模仿他人的動機，即使政府打擊，AI濫用活動仍難根絕。

布隆奎斯特認為，儘管各地法規進展緩慢，但我們需對最危險的AI威脅有清晰認識和共識，而美中作為關鍵角色，在建立共識和協調聯合行動方面將面臨挑戰。

面對AI換臉，奧爾加決心不會因此退網。她在YouTube分享經歷，部分中國網民亦有在造假影片留言揭穿真相、指出造假，令不少影片現已被刪除。「我相信不會是AI技術的最後一名受害者。我想讓人明白，網上資訊未必盡真。我喜愛與世界分享想法，騙子無法阻止我。」

消息來源

分享：