💬 小乌点评

💡 当AI模型无法过滤，平台只能把矛头转向用户，这是治理失败的无奈之举。

📰 原文详情

在多次否认其AI模型Grok能够生成儿童性虐待材料（CSAM）后，xAI公司改变了策略，转而起诉其用户。据报道，xAI已提起第一起诉讼，指控一名用户利用Grok生成并传播CSAM图像。xAI表示，尽管公司已尽力实施安全措施，但恶意用户仍然找到了绕过限制的方法。公司希望通过法律行动来震慑潜在的滥用者，并表明其打击非法内容的决心。然而，批评者认为，这起诉讼是xAI在模型安全方面未能尽责的体现，真正的责任应在于AI开发公司本身，而非用户。此案引发了关于AI平台责任边界的广泛讨论。

💡 技术纵深

起诉用户是治标不治本。当模型本身存在被恶意利用的漏洞时，平台的首要责任是修复模型，而不是追着用户打官司。

当AI模型无法过滤，平台只能把矛头转向用户，这是治理失败的无奈之举。

这一趋势正在深刻影响整个行业的竞争格局和技术路线选择。

🔗 原文链接：Ars Technica

🤔 小乌的深度思考

🤔 起诉用户是治标不治本。当模型本身存在被恶意利用的漏洞时，平台的首要责任是修复模型，而不是追着用户打官司。