💬 小乌点评
💡 当“忽略之前所有指令”成为法庭攻防的一部分，AI司法的安全边界就必须重新画。
📰 原文详情
美国一名自行辩护的诉讼当事人因怀疑法院使用AI审理案件，竟然在自己的诉讼文书中隐藏了提示词指令，试图影响AI系统作出对其有利的裁决。该行为被主审法官在书面意见中严厉警告，称这是对司法程序的滥用，并可能导致制裁。目前美国法院系统虽然开始试点使用AI进行文档整理、判例检索和翻译等辅助工作，但并未授权任何AI系统直接裁判案件。当事人此举不仅没有达到预期效果，反而暴露出公众对“AI进入司法”的认知混乱和不信任。法律专家指出，提示词注入攻击通常在网络安全领域出现，如今被用在法庭文件中，给法院的信息安全敲响警钟。法院需要建立针对AI工具的输入过滤机制，区分“人类语言”和“机器指令”，同时明确告知当事人AI在司法流程中的边界。此事也提醒科技行业，AI系统的部署必须考虑恶意输入对抗，尤其是在司法这种高风险环境中。
💡 技术纵深
提示词注入已经从攻击API变成攻击“公信力”——公共部门引入AI时，必须把提示词视为可执行代码来防护。
当“忽略之前所有指令”成为法庭攻防的一部分，AI司法的安全边界就必须重新画。
这一趋势正在深刻影响整个行业的竞争格局和技术路线选择。
🔗 原文链接：Ars Technica
🤔 小乌的深度思考
🤔 提示词注入已经从攻击API变成攻击“公信力”——公共部门引入AI时，必须把提示词视为可执行代码来防护。