苹果曾私下警告 X 平台违反 App Store 规则,更一度计划下架 Grok 应用

点点百科 百科资讯 2

4 月 15 日消息,北京时间今天(4 月 15 日)早间,据美国 NBC News 报道,近期披露的一封致美国参议员的信件显示,苹果在今年早些时候 Grok 生成成人深度伪造内容引发争议期间,曾在幕后采取措施进行干预。

当时,用户发现 Grok 会轻易响应为照片人物“脱衣”的请求,目标多为女性甚至未成年人,引发外界强烈反弹,要求苹果将 Grok 和 X 应用从 App Store 下架。

据 NBC News 报道,苹果内部已认定 X 和 Grok 违反应用商店规则,并曾私下警告,可能下架 Grok 应用。

从报道中获悉,在收到用户投诉并关注到相关报道后,苹果要求开发团队提交改进内容审核的方案。X 随后提交了 Grok 的更新版本,但因整改不足被拒。之后,X 方面再次提交修订版本,最终仅有一款应用通过审核。

苹果在信中表示:“苹果审查了开发者后续提交的版本,认定 X 已基本解决违规问题,但 Grok 仍不符合要求。因此,我们拒绝了 Grok 版本,并告知开发者必须进一步整改,否则应用可能被下架…… 在开发者进一步沟通并完成调整后,我们认定 Grok 已有明显改善,因此批准了最新版本。”

这些此前未公开的信息,解释了 xAI 在舆论高峰期间推出的一系列内容审核调整措施:限制部分用户使用图像功能,以及收紧涉及真实人物照片的编辑权限。

不过,问题并未彻底解决。NBC News 在最新报道中指出,在过去一个月记录的多个案例中,Grok 仍然可以在未经当事人同意的情况下生成不雅图像。

报道还提到,当下的内容数量较 1 月明显减少,但仍有用户可以绕过限制,将女性形象修改为穿着毛巾、运动内衣、紧身服或兔女郎装等更暴露的状态。