昨天我们进行了直播。简而言之:
我们设定了内部目标:到 2026 年 9 月,实现一个可在数十万个 GPU 上运行的自动化 AI 研究实习生;到 2028 年 3 月,实现一个真正的自动化 AI 研究员。我们或许无法完全实现这个目标,但考虑到其潜在的巨大影响,我们认为公开透明地说明情况符合公众利益。
我们的安全策略基于五个层面:价值对齐、目标对齐、可靠性、对抗鲁棒性和系统安全。“思维链忠实性”是我们特别看好的一个工具,但它也比较脆弱,需要划定界限并进行清晰的抽象。
在产品方面,我们正努力打造一个真正的平台,让基于我们产品进行开发的个人和公司能够获得大部分价值。目前,人们可以在 ChatGPT 中使用我们的 API 和应用程序进行开发;最终,我们希望提供一个能够赋能大型企业的 AI 云平台。
我们目前已投入约 30 吉瓦的计算能力,预计多年总拥有成本约为 1.4 万亿美元。鉴于我们对模型能力增长和收入增长前景的预期,我们对目前的投入感到满意。我们希望做得更多——我们希望建造一座人工智能工厂,每周能够以远低于目前的成本生产 1 吉瓦的新增算力——但这需要我们对未来的模型、收入以及技术/金融创新更有信心。
我们的新架构比旧架构简洁得多。我们设立了一个名为 OpenAI 基金会的非营利组织,该组织管理着一个名为 OpenAI 集团的公益公司。基金会最初持有该公益公司 26% 的股份,但如果该公益公司业绩优异,基金会可以通过认股权证逐步增持股份。该公益公司能够吸引实现使命所需的资源。
我们的使命,无论是对于我们的非营利组织还是公益公司而言目标始终如一:确保通用人工智能造福全人类。
这家非营利组织最初承诺投入 250 亿美元用于医疗健康、疾病治疗以及人工智能韧性建设(涵盖所有有助于社会成功过渡到后通用人工智能时代的因素,包括技术安全、经济影响、网络安全等等)。与以往不同,这家非营利组织现在能够相对快速地部署资金。
我们预计,到 2026 年,我们的人工智能系统或许能够做出一些小的新发现;到 2028 年,我们或许能够看到一些重大发现。这意义非凡;我们认为,科学以及那些让我们能够广泛传播科学成果的机构至关重要。