泉源 ：财联社

　　本地 时间周三，上个月从OpenAI离职 的公司连合 首创 人、（前）首席科学家，以及客岁 在OpenAI董事会投出关键一票将奥尔特曼赶出公司，又反悔将他请返来 的深度学习范畴 权势巨子 专家伊尔亚·苏茨克维（Ilya Sutskever），正式公布 单飞后的全新AI创业项目。

　　简单 来讲，苏茨克维创办 了一家叫做“安全超等 智能”（Safe Superintelligence，简称SSI）的新公司，目标 是“一步到位”地创造一个安全的超等 智能。

　　安全第一、直通终极目标

　　苏茨克维筹划 在一个纯粹的研究机构里，直接创造一个安全、强大 的人工智能体系 ，同时不会在短期内推出任何贸易 化产物 或服务。他对媒体先容 称：“这个公司很特别 ，由于 它的第一个产物 就会是安全的超等 智能，直到（实现）那一天前不会做任何其他事变 ，完全隔离于外部压力，不必行止 理 惩罚 大型、复杂的产物 或陷入剧烈 的竞争中。”

　　安全第一、不搞贸易 化、不答理 外界压力，整段话里苏茨克维没有提到过一次OpenAI，但背后的意思已经不言自明。固然 OpenAI的“宫斗”变乱 以奥尔特曼的大胜、速胜竣事 ，但整件事变 背后加快 主义与安全主义的蹊径 之争并没有竣事 。

　　固然 理念差别 ，但两边 私下里依然维持着尚可的关系。在本年 5月15日公布 离开 工作十年的OpenAI之时，苏茨克维也发布了一张管理层的合照，并表现 信托 在奥尔特曼等人的领导 下，OpenAI将构建出安全又有益的AGI（通用人工智能）。

　　对于苏茨克维的分道扬镳，奥尔特曼回应称“深感伤心 ”，并表现 没有苏茨克维就没有OpenAI的本日 。

　　自客岁 的“宫斗”变乱 竣事 后，苏茨克维不停 对于整件事保持沉默 沉静 ，直到本日 依然云云 。在被问及他与奥尔特曼的关系时，苏茨克维只是简单 地答复 了一句“很好”，而被问及已往 几个月的履历 时，他也只是表现 “非常奇怪 ”。

　　“像核安全一样的安全”

　　从某种意义上来看，苏茨克维如今 也无法正确 界定AI体系 安全与否的分边界 ，只能说有一些不一样的想法。

　　苏茨克维暗示称，他的新公司将实行 利用 “嵌入AI体系 的工程突破”来实现安全，而不是技能 上临时 应用的“防护栏”。他夸大 ：“我们所说的安全，是指像核安全一样的安全，而不是雷同 于‘信托 与安全’那样的东西”。

　　他表现 花了很多 年来思考 AI安全方面的题目 ，而且 在心目中已经有了几种实现的方法。他先容 称：“在最根本 的层面上，安全的超等 智能应该具有如许 的特性，即不会对人类造成大规模伤害。在此之后，我们可以说盼望 它成为一种善的力气 ，一种创建 在关键代价 观上的力气 。”

　　除了台甫 鼎鼎的苏茨克维外，SSI尚有 两名首创 人——前苹果公司呆板 学习主管、着名 科技风险投资人丹尼尔·格罗斯，另一个是与苏茨克维一同在OpenAI练习 大模子 的工程师丹尼尔·莱维。

　　莱维表现 ，我的愿景与苏茨克维完全同等 ：一个小而干练 的团队，每个人都专注于实现安全超等 智能的单一目标 。

　　固然 如今 并不清楚 SSI为何敢于喊出“一步到位”（到底有多少投资人、投了多少钱），但格罗斯明白 表现 ，公司简直 谋面 临很多 题目 ，但找钱不会是此中 之一。

　　回归OpenAI的初心

　　从一系列愿景中不难发现，所谓“安全超等 智能”，本质上就是OpenAI创建 初期的概念。但随着练习 大模子 带来的费用激增，OpenAI不得不与微软相助 ，调换 资金和算力支持连续 他们的奇迹 。

　　如许 的题目 也会出如今 SSI将来 的路上——公司的投资人真的乐意 投入大量资金，看着这家公司没有任何产出，直到实现“超等 智能”的终极 目标 吗？

　　趁便 一提，“超等 智能”本身 也是一个理论上的概念，指的是一种逾越 人类程度 的人工智能体系 ，比起环球 大多数超等 科技公司正在寻求 的结果 更加先辈 。但业内对于可否 实现如许 的智能，或怎样 构建如许 的体系 尚未形成共识。

　　而令人在意的是，在SSI公司发布的首个公告中，第一句话就是“超等 智能已经近在咫尺”。

　　附：SSI公告

安全超等 智能公司 （Safe Superintelligence Inc．）

超等 智能已经近在咫尺。

构建安全的超等 智能是我们这个期间 最紧张 的技能 题目 。

我们已经启动了天下 上第一个直击目标 的SSI实行 室，目标 和产物 只有一个：安全的超等 智能。

它叫做安全超等 智能公司。

SSI是我们的任务 、我们的名字和我们全部的产物 蹊径 图，由于 这是我们唯一的关注点。我们的团队、投资者和贸易 模式都同心 协力实现SSI。

我们将安全性和本领 并行，视为必要 通过革命性工程和科学突破办理 的技能 题目 。我们筹划 在确保安全性始终优先的环境 下尽大概 快地进步 本领 。

如许 ，我们就能在寂静 的状态中扩展。

我们的专留意 味着不会因管理事件 或产物 周期而分心，我们的贸易 模式意味着安全性和技能 进步都不会受到短期贸易 压力的影响。

我们是一家美国公司，在帕洛阿尔托和特拉维夫设有服务 处，这些地方是我们的根基地点 ，也能在这些地方招募到顶尖的技能 人才。

我们正在组建一个精简的、出类拔萃的天下 顶尖工程师和研究职员 团队，只专注于SSI。

假如 你是那样的人，我们提供一个机遇 ，让你完成一生的奇迹 ，资助 办理 我们这个期间 最紧张 的技能 挑衅 。

如今 是时间 了。参加 我们。

伊利亚·苏茨克维尔 、丹尼尔·格罗斯、丹尼尔·利维

2024年6月19日