“深度伪造”门槛降低，“霉霉AI照片”让美国很紧张！

来源：环球时报

【环球时报特约记者 吕克】美国广播公司27日称，美国流行乐歌星泰勒·斯威夫特的“AI伪造照片”事件已掀起轩然大波，就连白宫方面都感到“震惊”，新闻发言人表示担忧的同时，也呼吁国会“应立刻采取行动”，而美国政坛、好莱坞和民众也对此事背后凸显的技术、法律漏洞感到不满。

AI的“险恶用途”

上周，由人工智能（AI）合成的“斯威夫特色情照片”在社交媒体上疯狂传播，约有数千万人看过所谓“霉霉劲爆照”，影响相当恶劣，也让美国娱乐圈、社交媒体和当局再一次意识到AI技术很有可能会在某些“险恶用途”上被滥用，对其进行监管非常必要。

白宫新闻秘书卡琳·让-皮埃尔对媒体表示：“我们对媒体发布的关于斯威夫特照片（更确切地说是虚假图像）流传的报道感到震惊，这种情况令人担忧。虽然社交媒体公司对内容管理会做出独立判断，但他们在执行规则，以防止虚假信息、非自愿的真实人物私密图像传播方面，可以发挥重要作用。”

为了回应外界对于AI滥用的担忧，白宫新闻发言人还强调，美国政府最近在这些问题上会采取一系列行动，包括成立一个特别工作组来解决网络骚扰和虐待问题，美国司法部将为网络性侵的受害者开通首条全国24小时求助热线，“令人遗憾的是，执法不到位对于女性影响更大，毕竟她们是网络骚扰的主要目标。我们对此非常重视，此次AI假照片事件再次让我们感到震惊”。

虽然白宫方面表示震惊，但愤怒的“霉霉”粉丝惊讶地发现：美国现行的联邦法律中居然没有相关条文能够阻止创建或分享此类未经同意的“深度伪造图像”。美国政界已经有人发现这一漏洞，纽约民主党议员乔·莫雷尔正在推动一项法案，将分享此类数码篡改的“露骨图像”的行为定为犯罪，违反者将被判罚款和入狱。

通过社交媒体海量传播

深度伪造（Deepfake）技术早在这次“霉霉AI照”之前就已存在并被大量使用，尤其是在色情产业中，往往被别有用心的人制作成以假乱真的图片和视频，此类创建和分享方式也被称为“图像性虐待”。而随着人工智能技术的迅猛发展，几年前还需要具备专业IT知识才能掌握的“换脸”技术，如今只需下载相关应用程序，就能够一键生成。

技术门槛的降低导致了深度伪造的滥用，除了个人，一些商业色情网站也利用这些图片来吸引付费会员。除了“霉霉”等艺人，普通人也可能成为这种AI技术的受害者。去年11月，新泽西一所中学的30多名女生的照片就被篡改和传播，她们呼吁学校和政府采取措施；西班牙小镇里的女学生也发现自己的“裸照”在学校和社区里流传，给她们的身心带来不小冲击，后来当地警方发现这都是有人使用廉价应用程序炮制的。这说明如今在全世界，每个人都有可能成为这种“AI恶意操作”的受害者。

除了使用应用程序快速生成AI照片，社交媒体的无孔不入也让这些人工智能产物能够“以假乱真”海量传播。此次“霉霉AI照”的传播之广，正是因为其出现在主流社交媒体平台之一的X上，虽然发布账户被暂时关闭，但传播伪造图片的推文已经被浏览了高达4500万次。

X的安全团队此前发布公告：“我们正在积极删除所有已识别的图像，并对发布这些图像的账户采取相应行动。X上严禁发布非自愿裸体图片，我们对此类内容采取零容忍政策，正在密切关注情况，以确保任何进一步的违规行为都能立即得到解决，并确保内容被删除。”美国有线电视新闻网27日称，在X安全团队的紧急补救措施下，现在该平台上已经无法搜索到“斯威夫特+AI”的关键词信息，反馈结果成了一段错误代码，安全团队称“这是一项临时措施，毕竟我们非常谨慎地对待安全问题”。

“正在考虑采取法律行动”

目前，美国已经有9个州制定法律，禁止创作或传播此类深度伪造照片。而据英国广播公司报道，已有多个美国不同党派政客表示支持对“深度伪造”采取立法行动，共和党众议员小汤姆·基恩认为：“显而易见，目前人工智能技术的发展速度超出必要的护栏，受害者可能是斯威夫特这样的大明星，也可能是任意年轻人，我们需要建立保障措施来应对这一令人担忧的发展趋势。”斯威夫特本人尚未公开谈论这些图片，但据《每日邮报》报道，她的团队“正在考虑对发布AI合成图片的网站采取法律行动”。

虽然美国政府、议员和社交媒体平台已经表态，但由于当前监管法律的缺失，以及网络信息的“病毒式”传播方式，像“霉霉AI照”这样的事情很难完全杜绝，之前已有不少好莱坞明星的“换脸”照片和视频出现在色情网站上。非营利反性侵组织负责人斯戴芬·图克海默就表示：“每天有超过10万张这样的图片和视频在网络上传播，我们替斯威夫特感到愤怒，同时也为网络上高达数百万没有资源来恢复‘图片自主权’的受害者感到愤怒。”

标签：

版权声明：本文由用户上传，如有侵权请联系删除！