一名乌克兰网红博主奥尔加洛伊克控诉，看到自己的脸出现在中国社交媒体上的各种影片中，但事实上这些影片是由网上简易的生成式人工智能（AI）工具所制作。
现实中，这名21岁网红，名叫洛伊克是一名乌克兰人；但在中国的网路上，她却变成了会说中文、热爱中国和俄罗斯女子娜塔莎。
”我可以看到我的脸，说着普通话，背景是克里姆林宫和莫斯科，在谈论着俄罗斯和中国有多么伟大。这一切都令人毛骨悚然，因为我看到自己说了一些我这辈子不可能说的话。“
洛伊克的案例是一个典型例子，在中国社交媒体上可以看到越来越多女性，乍看像是俄罗斯人，用流利的中文表达对中国的热爱，并表示通过出售本国进口商品来支持俄罗斯战争。
但事实上这些账号都不存在。专家指出，这些账号都是人工智能生成的，通过盗用网上真实女性的视频剪辑，通常是在当事人不知情的情况下生成的，这些假冒头像制作的视频被用来向单身中国男性推销产品。
中国魔珐科技创始人柴金祥表示，创建此类图像的技术非常普遍，在中国很多人都在使用。这家科技公司并未涉及洛伊克案例。
“举个例子，要制作我本身的 2D 数码人像，我只需要拍摄一段 30 分钟的视频，然后在完成后重新制作视频。它看起来非常真实，如果要改变语言，唯一需要调整的就是口型同步。”
随着 Chat GPT 等生成式人工智能系统越来越受欢迎，人们对人工智能助长错误信息、虚假新闻和版权所属的担忧愈演愈烈。
今年 1 月，中国发布了人工智能行业标准化指导意见草案，提议在 2026 年时制定 50 多项国家和行业标准。
欧盟的《人工智能法案》也于本月生效，法案对高风险人工智能系统规定了严格的透明义务，或可成为全球标杆。
