AI盗用乌女YouTuber肖像捏造亲俄言论
【2024年5月19日讯】
一位乌克兰女性发现，自己的样貌和声音被AI合成，在中国社交媒体宣扬中俄友谊及推销俄产品，令身处乌克兰的家人感愤怒。中国虽已立法规管AI，但专家指当地地下AI换脸活动猖獗，民众权益难获保障。
年仅21岁、就读宾夕法尼亚大学的乌克兰YouTuber洛伊克（Olga Loiek）去年起发现，自己的脸出现在多个由AI制作的中国社交媒体影片中。影片中的“奥尔加”操著从未学过的普通话，宣扬中俄友谊，甚至化身俄国人推销俄产品。
洛伊克向BBC表示：“我不希望有人认为我说过这些可怕的话。利用乌克兰女孩的面孔宣传俄罗斯，实在太疯狂了。”中国是最早尝试规管人工智能的国家之一，2023年已有公安机关拘捕515人，法院亦处理相关案件，但仍有大量冒用奥尔加形象的影片流传。
这些使用奥尔加肖像的账号多达35个，影片内容90%都在谈论中俄友谊，其中最大的一个账号“娜塔莎进口食品”更有30多万关注者。“娜塔莎”除说着“俄罗斯是最好的国家”等言论，更推销起俄罗斯糖果等产品。
奥尔加的未婚夫在社交媒体上揭发此事后，AI视频生成平台HeyGen坦承已有4900多个使用奥尔加脸孔的影片被创建，并宣布禁止再使用其肖像。港大副教授张湖月指，奥尔加的遭遇在中国并不罕见，中国有庞大的地下经济，专门从事仿制、盗用个人数据和制作深度伪造。
博洛尼亚大学及鲁汶大学法律与技术研究员海因（Emmie Hine）认为，传播与政府宣传意识形态一致的资讯，有利于降低被削除帖文的可能，即使这些账户与中共并无直接关联。
牛津大学技术与地缘政治研究员布隆奎斯特（Kayla Blomquist）警告，普通人如奥尔加仍处弱势，或遭人为制造政治敏感内容陷害，面临未经正当程序的迅速惩罚。海因解释，中国AI法规旨在平衡社会稳定与创新发展，虽规定严格，但有证据表明存选择性执法，尤在生成式AI许可规则方面。
奥尔加遭遇引发外界关注AI监管。欧洲议会三月通过《人工智能法案》，美国总统拜登去年十月亦签署行政命令，要求AI开发者与政府共享数据。海因指出，个人层面上，除避免在网上发布内容，似乎无其他良策，不当利用者常有模仿他人的动机，即使政府打击，AI滥用活动仍难根绝。
布隆奎斯特认为，尽管各地法规进展缓慢，但我们需对最危险的AI威胁有清晰认识和共识，而美中作为关键角色，在建立共识和协调联合行动方面将面临挑战。
面对AI换脸，奥尔加决心不会因此退网。她在YouTube分享经历，部分中国网民亦有在造假影片留言揭穿真相、指出造假，令不少影片现已被删除。“我相信不会是AI技术的最后一名受害者。我想让人明白，网上资讯未必尽真。我喜爱与世界分享想法，骗子无法阻止我。”
延伸阅读
消息来源
- 王凡，乌克兰YouTube主播如何被用AI“变身”俄罗斯人，BBC News 中文，2024年5月16日。
- Fan Wang，How AI turned a Ukrainian YouTuber into a Russian，BBC News，2024年5月15日。
