奥特曼回归致员工公开信，谈OpenAI安全发展之急

　　经过两周的人事动荡，萨姆·奥特曼 (Sam Altman) 正式回归OpenAI，重任首席执行官。北京时间11月30日上午，OpenAI在官网发布了奥特曼写给全体员工的公开信，过渡时期的董事会主席Bret Taylor的信也同时公开。

　　在公开信中，奥特曼列出了 OpenAI 的三个当务之急：第一，安全发展，继续推进研究计划；第二，改进产品，服务更多客户，让人们能体验到人工智能的好处并参与其中；第三，优化董事会结构，监督对这次罢免事件的独立审查。

　　奥特曼在信中强调，“推进我们的研究计划，并进一步投资于我们的全栈安全工作，这对我们的工作一直至关重要。”“把这次的危机变成机遇。”

　　据报道，前任董事会与奥特曼曾在OpenAI的发展和安全方向上存在重大分歧，可能是奥特曼被罢免的导火索。近期这一动机进一步锁定在一项名为“Q*”的未公开项目上。内部匿名信源在社交媒体透露，在奥特曼被解雇前，OpenAI内部曾对一项名为“Q*”的项目发布警告，部分内部员工认为“Q*”显示出了接近人类的高级推理能力，可能接近于“超越人类的自主系统。”从而引发了公司对发展步调的担忧。

　　截至目前，OpenAI没有回应“Q*”和内部信泄露事件。

　　在安全工作上，OpenAI今年公布了两个安全团队：超级对齐团队 (Superalignment) 和红队测试团队 (Red Teaming Network)。前者的目标是四年内解决“超级智能”的对齐问题——研发一个自动对齐系统，确保AI能符合人类利益，按人类的意图运行。联合创始人兼首席科学家伊利亚·苏茨克维（Ilya Sutskever）是核心领导之一。官网介绍，公司划拨了20%的算力资源给超级对齐团队。

　　而红队测试团队于今年9月公布，主要由不同领域的专家构成，包括教育、经济、法律、语言、政治学和心理学领域专家。OpenAI 表示，作为外部评估的补充，每个红队成员每年大约投入5到10小时在内部风险评估上，评估涉及AI模型和产品开发周期的各个阶段，而不是“部署之前的一次性工作。”

　　值得注意的是，随着OpenAI的核心成员悉数归位——奥特曼重任首席执行官，Greg Brockman重任总裁，Mira Murati重任首席技术官，首席科学家伊利亚的去向仍然没有交代。此前，伊利亚在罢免奥特曼的董事会“政变”中投出了赞成票，而后在社交平台表示懊悔。

　　奥特曼在公开信中声明自己对伊利亚没有恶意，“希望继续我们的工作关系，正在讨论如何继续他在 OpenAI 的工作。”超级对齐团队未来的工作情况尚不明晰。