OpenAI 周二表示，其即将发布的新一代模型能力过于强大，必须先部署额外的安全防护措施才能上线。这一罕见表态再度引发业界对前沿 AI 风险管控的讨论。
据 OpenAI 官员在媒体电话会上介绍，这款代号为 Astra 的模型能够发现比目前公开最先进模型更多的安全漏洞，且完成同类任务所需的算力更少。
负责安全事务的 OpenAI 副总裁 Amelia Glaese 表示：”借助合适的工具和访问权限，Astra 可以找到此前未知的安全缺陷，并在无人逐步引导的情况下，在多个防护严密的系统中开发出利用这些漏洞的方法。”
公司计划”很快”向一个有限的用户群体开放 Astra，但拒绝透露具体时间。Glaese 坦承，额外的安全措施可能”有时会拖慢、暂停甚至阻止正当的研究工作”，OpenAI 将努力将干扰降到最低。
对新加坡而言，这一进展正值本地企业加速采用生成式 AI 之际。此前有调查显示，多数新加坡企业无法”证明”AI 的决策过程，可解释性与安全缺口成为智能化转型的最大隐患。前沿模型自主发现并利用漏洞的能力，将进一步抬高企业 AI 治理与网络安全的门槛。
来源：CNA / Reuters｜新纷网编译