Meta因露骨AI图片陷入困境

  每周跟踪AI热点新闻动向和震撼发展 想要探索生成式人工智能的前沿进展吗？订阅我们的简报，深入解析最新的技术突破、实际应用案例和未来的趋势。与全球数同行一同，从行业内部的深度分析和实用指南中受益。不要错过这个机会，成为AI领域的领跑者。点击订阅，与未来同行！ 订阅：https://rengongzhineng.io/

近日，Meta的独立监督委员会启动了对Meta AI内容政策及其行动的调查，此举源于两张露骨的AI生成图片在Facebook和Instagram上的发布。

Meta目前通过AI和人工审核相结合的方式来检测其平台上的露骨AI内容，并且最近宣布计划将“由AI制作”标签扩展到更多内容上，以提供更多清晰度并防止深度伪造对公众造成伤害。然而，监督委员会的介入是为了调查Meta围绕AI生成的深度伪造内容的执法政策是否有效以及是否一致。

“委员会选择这些案例来评估Meta的政策及其执法实践在处理露骨AI生成图像方面是否有效。”

在Meta的平台上发现了什么样的露骨AI内容呢？

首起事件发生在印度，一位Instagram用户报告了一张涉及公众人物的露骨AI生成图像，请求Meta将其删除。Meta未能做到这一点，并且在48小时后该请求自动关闭。用户对Meta的决定提出上诉，但请求再次被关闭，图片仍留在Instagram上。随后，用户将此图像报告给了监督委员会，Meta迅速删除了该图像，并称其“违反了社区关于欺凌和骚扰的标准”。总结：Meta需要两次报告，以及一次向委员会的报告才将露骨的AI图像删除。

第二起事件发生在美国，Meta的系统检测到Facebook上一个公众人物的AI生成露骨图像，并立即将其删除。Meta对这两起事件的处理方式的不同令人关注——尤其是两张图像都违反了Meta的AI内容政策——这也解释了为什么委员会要介入调查。

“委员会认为探索Meta的政策及执法实践在解决这一问题上是否有效很重要。”委员会目前正在调查这两个案件（他们已请求公众在4月30日前发表评论），并将在几周内发布决定。在这两个案例中，Meta现已删除了露骨内容，委员会为了保护涉事个人免受进一步骚扰，不会公开他们的姓名。