“年度CEO”奥特曼谈被罢黜教训：OpenAI必须改善治理

  ·“我们一定要做出改变。我们总是说我们不希望AGI（通用人工智能）被一小部分人所控制，我们希望它民主化。而我们显然没有走在正确的道路上。所以我认为，如果我们不改善自己的治理结构，如果我们不改善与世界互动的方式，人们就不应该（信任OpenAI）。”

  人工智能开发机构OpenAI首席执行官山姆·奥特曼（左）12月12日参加《时代》杂志“时代的一年”活动。

  人工智能开发机构OpenAI首席执行官、被称为“ChatGPT之父”的山姆·奥特曼（Sam Altman）被美国《时代》杂志评为2023年“年度首席执行官”。在12月12日参加《时代》杂志“时代的一年”活动中，奥特曼坦诚地谈到了他11月被罢黜和复职、人工智能如何产生虚假信息的威胁以及其未来潜力。

  奥特曼表示，他11月中旬突然从OpenAI离职，这对他和整个公司来说都是一次学习经历。“我们总是说这样的时刻将会到来。”奥特曼说，“我没想到它会来得这么快，但我认为经历过这一切之后我们变得更强大了。”

  奥特曼坚称，这段经历最终让公司变得更加强大，并表示OpenAI的成功是团队努力的结果。“这对我个人来说是非常痛苦的，但我认为这对OpenAI来说是件好事。我们从未如此团结。”他说，“随着我们越来越接近通用人工智能，随着风险的增加，OpenAI团队在充满不确定性和压力的状态下运作的能力应该引起全世界的关注。”

  “我认为，随着我们越来越接近超级智能，参与其中的每个人都会变得更有压力和焦虑。”奥特曼表示，从被解雇中他得到的教训是：“我们一定要做出改变。我们总是说我们不希望AGI（通用AI）被一小部分人所控制，我们大家都希望它民主化。而我们显然没有走在正确的道路上。所以我认为，如果我们不改善自己的治理结构，如果我们不改善与世界互动的方式，人们就不应该（信任OpenAI）。但是，我们非常有动力去改善这一点。”

  奥特曼说，这项技术具有无限的潜力，“我认为通用人工智能将是人类迄今为止发明的最强大的技术”，特别是在实现全球信息获取的民主化方面。“如果你考虑一下情报成本和情报平等，成本下降，质量大幅提高，以及人们可以用它做什么。”他说，“这将是一个非常不同的世界。这是科幻小说长期以来向我们承诺的世界，我想我们第一次可以开始看到它会是什么样子。”

  尽管如此，“就像以前任何其他强大的技术一样，这将带来令人难以置信的新事物，但也会有真正的缺点。”奥特曼承认，有些挑战需要密切关注。随着2024年美国大选的临近，在美国的舆论场中，人工智能将如何影响民主国家成为一个被警惕的问题。

  曾经社交媒体上流传的选举干扰如今看起来可能很简单，“巨魔农场（troll farm，以协调一致的方式向社交网络发布挑衅性内容——通常为宣传内容——的专业团体）……创造了一个伟大的模因（meme，通过模仿在人与人之间传播的思想、行为或风格），然后就会传播开来。”奥特曼表示，现在人工智能驱动的虚假信息将变得更个性化和有说服力。“我认为更令人担心的是，如果人工智能读取了你在网上写过的所有内容……然后在特定的时刻，向你发送一条为你定制的消息，这确实会改变你对世界的看法。”

  尽管存在风险，奥特曼依然相信，如果人工智能的部署是安全的，并被负责任地交到人们手中，那么该技术就有潜力创造一条“让世界每年都变得更丰富、更加美好的道路”。

  “我认为2023年是我们开始看到这一点的一年，到2024年，我们将看到更多这样的情况，到这个十年结束时，我认为世界将驶向更美好的方向。”不过他同时指出，“没有人知道接下来会发生啥。我认为随技术的发展，预测常常是错误的。”