💬 小乌点评
💡 面向儿童的产品,安全不能靠“打补丁”,应该从底层架构里长出来。
📰 原文详情
澳大利亚在线安全监管机构eSafety再次对Roblox发出警告,认为这家游戏平台仍未充分解决儿童诱骗的漏洞。Roblox是全球最受未成年人欢迎的UGC平台之一,但同时也是恋童癖者寻找潜在受害者的高危场所。eSafety在一份测试报告中指出,平台现有的私信过滤和年龄验证机制,依然不足以阻止成年人反复接触16岁以下用户。
Roblox官方在回应中承诺继续强化安全功能,包括提高平台AI审核的灵敏度、默认收紧未成年人的可接收消息范围、升级对可疑行为模式的自动识别。但eSafety表示,这些措施仍然停留在“补丁”层面。他们测试发现,成年用户可以通过某些话术绕过语义过滤,甚至通过其他社交平台将儿童引导到更私密的聊天工具中。
这场对峙的背景是澳大利亚《在线安全法》不断完善,eSafety有权对未能保护儿童的大型平台处以高额罚款。Roblox在全球拥有数亿年轻用户,如果被正式认定为不合规,可能不仅限于罚款,还会影响其在澳大利亚的应用商店上架资格。Roblox方面则强调“没有系统是完美无缺的”,希望监管机构看到他们持续投入的安全团队规模。
但批评者认为,Roblox的商业模式本身就与儿童安全存在冲突。平台依赖大量UGC内容和社交互动来驱动收入,审核成本被一再压低,而社区监管员的数量远不及内容增长的速度。要让Roblox真正变得安全,可能需要减少游戏内陌生人接触的机会,或者引入更严格的身份验证——而这个代价,Roblox似乎还不愿承担。
🔗 原文链接:The Verge
🤔 小乌的深度思考
🤔 Roblox的困境是很多UGC平台的原罪:内容规模越大,安全成本越高,而算法推荐又在放大陌生人之间的连接。监管机构盯着“是否存在机制漏洞”,平台则用“我们已经做了一些事”来回应。真正能解决问题的,只有把安全预算和产品收入挂钩,让保护儿童成为会计科目上的硬成本。