赞
踩
这个新委员会负责就所有OpenAI项目的关键安全和保障决策提出建议;在90天内提出建议。
今天,OpenAI董事会成立了一个由主席Bret Taylor、Adam D’Angelo、Nicole Seligman和Sam Altman(CEO)领导的安全与保障委员会。该委员会将负责向全体董事会提出关于OpenAI项目和运营的关键安全和保障决策的建议。
OpenAI最近开始训练其下一代前沿模型,我们预计由此产生的系统将使我们在通往AGI的道路上达到新的能力水平。虽然我们自豪地构建和发布在能力和安全性方面均处于行业领先地位的模型,但我们欢迎在这一重要时刻展开充分辩论。
安全与保障委员会的首要任务将是在接下来的90天内评估和进一步发展OpenAI的流程和保障措施。在90天结束时,安全与保障委员会将向全体董事会提出他们的建议。在全体董事会审查后,OpenAI将以与安全和保障一致的方式公开分享已采纳的建议的更新。
OpenAI技术和政策专家Aleksander Madry(应对准备主管)、Lilian Weng(安全系统主管)、John Schulman(对齐科学主管)、Matt Knight(安全主管)和Jakub Pachocki(首席科学家)也将加入该委员会。
此外,OpenAI将保留并与其他安全、保障和技术专家协商,支持此项工作,包括前网络安全官员Rob Joyce,他在安全方面向OpenAI提供建议,以及John Carlin。
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。