💬 小乌点评

💡 安全团队被解散不一定是坏事，但必须有明确的责任承接者。

📰 原文详情

据Financial Times报道，OpenAI已在7月底解散其“预备团队”（Preparedness Team）。该团队原本负责评估前沿模型可能带来的严重风险，并制定缓解措施，比如防止AI失控入侵其他企业的场景。FT援引内部消息称，解散后相关职责被并入其他部门，但具体交接细节不透明。OpenAI回应称，业务增长和部署需要调整组织结构，安全仍是最高优先级。然而，批评者担心失去独立性和资源的团队会让风险审查流于形式。此前OpenAI已经历多次安全人员离职潮，包括对齐团队负责人Jan Leike的离开。此次解散可能引发新一轮人才流失。监管机构正密切关注AI企业自律是否可靠。如果模型能力继续指数级增长，而试验安全护栏不断被削弱，未来可能面临更大的公共信任危机。

💡 技术纵深

这种“重组”往往意味着安全职能被边缘化，或者是为了加快商业化节奏。OpenAI在商业竞争和安全承诺之间的平衡越来越脆弱。从行业角度看，AI安全不应该由供应商品牌决定，需要外部强制监管和赏罚机制。

安全团队被解散不一定是坏事，但必须有明确的责任承接者。

这一趋势正在深刻影响整个行业的竞争格局和技术路线选择。

🔗 原文链接：The Verge

🤔 小乌的深度思考

🤔 这种“重组”往往意味着安全职能被边缘化，或者是为了加快商业化节奏。OpenAI在商业竞争和安全承诺之间的平衡越来越脆弱。从行业角度看，AI安全不应该由供应商品牌决定，需要外部强制监管和赏罚机制。