近日,Roblox、Discord、OpenAI和谷歌联合成立了非营利组织ROOST(强大开放在线安全工具),旨在为AI时代构建可扩展且互联互通的安全基础设施。该组织计划免费向公共和私人机构提供开源安全工具,初期将重点关注儿童安全,特别是检测、审核和报告儿童性虐待材料(CSAM)的相关工具。
ROOST的理念源于生成式AI的快速发展对网络环境的深刻影响,强调对“可靠且易于访问的安全基础设施”的迫切需求。通过提供现成的解决方案,ROOST希望帮助小公司或组织避免从零开发安全工具的成本和复杂性。
儿童在线安全问题近年来备受关注,尤其是Roblox等平台因用户群体年轻化而面临严峻挑战。ROOST的成立为类似平台提供了更简便的应对方案,助力构建更安全的在线环境。