AI冒充MrBeast的广告竟然轻易骗过了TikTok的广告审核系统

目录

 一.事件起因及影响

二.AI换脸技术带来的危害：

 一.事件起因及影响

        AI深度伪造技术如今高超到了一个新的境界：一个冒充MrBeast的广告竟然轻易骗过了TikTok的广告审核系统，并成功登上了这个平台。

        广告中，这位巨星级创作者似乎正在向10,000名观众推销只要2美元的iPhone 15 Pro。通常情况下，人们会立刻认为这是骗局。但如果这是MrBeast的主意，那么听起来反而觉得有可能。

        MrBeast，真名Jimmy Donaldson，25岁，他在YouTube的粉丝数超过了其他任何个体。他因频频创作出位数的特技视频而成名，例如给陌生人免费的房子和车，只要他们愿意上镜。最近，他甚至邀请了来自全球各地的人，参加一系列奥运会式的小游戏，争夺25万美元的大奖。

        因此，当你深夜在TikTok上滑动时，脑袋可能并不那么清醒，你或许真的会认为MrBeast会通过广告送出10,000部iPhone。毕竟，他之前确实在万圣节给过路过的孩子免费的iPhone。

        纵观整个事件，或许这就是这则深度伪造广告能够在TikTok上获得批准的原因。TikTok结合了人工审核和AI技术来评审广告。这次事件中，TikTok的AI与制造MrBeast伪造视频的AI进行了一场对决，结果是败北了。

        TikTok后来向TechCrunch表示，由于这则广告违反了他们的政策，发布几小时后就已被撤下。虽然TikTok并不完全禁止合成或操纵的媒体内容，但确实要求广告商明确告知观众。

        事实上，TikTok并不是唯一使用AI进行广告审核的平台。Meta也表示，他们主要依赖机器自动化技术，但也有人工参与审核。

        欺骗性的深度伪造并不是新事，但随着AI在投资者和普通消费者中越来越火热，这项技术的应用也变得更为广泛。而网红如MrBeast吸引了年轻人，老年消费者同样也受到了影响。就在这周，演员Tom Hanks和CBS新闻主播Gayle King都警告说，他们被用来制作欺诈广告的伪造视频。

        Tom Hanks在Instagram上发文：“小心！有个关于某种牙科方案的视频里，伪造了我的形象。那跟我一点儿关系都没有。”

        尽管联邦贸易委员会已经对深度伪造营销发出警告，但要大规模地对其进行监管仍然困难重重。而且随着全球各地的选举日益临近，这种欺诈广告的潜在风险可能会进一步加剧。

二.AI换脸技术带来的危害：

1. 用户个人信息安全和隐私被窃取或滥用。如果用户个人信息被窃取或滥用，可能会带来严重的后果，如财产被窃取、信用被盗用等。
2. 制造虚假视频，进行欺诈、诈骗、勒索、敲诈勒索等犯罪活动。例如，有人可能利用AI面部识别技术将自己的面部特征伪装成他人，然后伪造一个货运订单，并敲诈受害者支付所谓的运费，或者伪装成受害者欺骗他人。
3. 伪造政治、军事、经济等方面的信息，制造混乱甚至导致意外后果。

因此，在应用AI换脸技术时，应充分考虑其潜在的风险，谨慎使用，并严格遵守相关法律法规。