整理 | 华卫
昨晚，OpenAI 的集结首创东说念主、前首席科学家 Ilya Sutskever 晓示，其正在创办一家专注于安全领域的新东说念主工智能公司 Safe Superintelligence Inc. (SSI)。Sutskever 走漏，该公司的操办和居品惟有一个：创建安全而重大的东说念主工智能系统。“超等智能举手投足。构建安全的超等智能是咱们这个期间最紧要的时候问题。”
把柄官方的公告先容，SSI 被描摹为一家 "将安全和材干链接在通盘 "的初创公司，在快速鼓动其东说念主工智能系统的同期仍能将安全放在首位。公告还提到了 OpenAI、谷歌和微软等公司的东说念主工智能团队频繁面对的外部压力，表现 SSI 的 "单一眷注点 "使其能够幸免 "解决用度或居品周期的过问"。
"咱们的业务模式意味着安全、保险和逾越皆不受短期营业压力的影响，这么咱们就不错安宽心心肠扩大范畴"。据 Sutskever 先容，SSI 的第一个居品将是“安全的超等智能”，在此之前，该公司不会作念任何其他事情。
有关词，关于 SSI 的运营理念，有一些网友建议了不同角度的机敏质疑。一方面是其追求的安全准则：“咱们离‘超等智能’还差得很远，安全是重中之重吗？要是莱特兄弟专注于安全，我概略情他们会飞得很远。”
另一方面是试验和东说念主才资源：“怎样设法支付的确有禀赋的东说念主工智能究诘东说念主员不错从其他更营业化的公司那边获取的薪酬待遇？也许不错找到有相识时势驱动或也曾在经济上寂然的东说念主，但至少需要在合理的时刻范围内给出对未来收入的承诺和但愿，以整合的确能够与大型东说念主工智能超等实验室竞争所需的多样资源，比如规划和 GPU 数据。”
天然目下尚不明晰谁将为这个新企业的发展提供资金，也不明晰其最终的营业模式究竟是什么，但 Sutskever 表现“筹集资金不会成为公司的问题”，并正在向业内感兴致的东说念主传达一个信息：SSI 将在好意思国和以色列莳植总部，目下正在招聘。当今，在 X 卤莽平台上，已有一位 @signulll 的网友，宣称我方刚刚加入 SSI。
除 Sutskever 之外，SSI 还由苹果前 AI 负责东说念主、Y-Combinator 结伙东说念主、Cue 集结首创东说念主 Daniel Gross 和曾在 OpenAI 担任时候东说念主员的 Daniel Levy 共同创立。
“早有准备”的首创团队，下一步和 xAI 和洽？
安全除外，关于新公司，Sutskever 似乎也作念了更多居品竞争材干方面的考量。
Sutskever 以为，在东说念主工智能领域占据主导地位的大型语言模子，将在安全超等智能系统中表现紧要作用，但它的操办是终了更重大的功能。他表现，关于目下的系统，"你和它谈话，进行对话，然后就完成了"；SSI 的东说念主工智能系统在准备就绪后，将比目下的大型语言模子更具通用性和膨大性。
据了解，SSI 的首创东说念主之一 Levy 在 OpenAI 时就以试验大型东说念主工智能模子而有名。况且，他亦然在 Sutskever 离开 OpenAI 之后几天辞职的究诘东说念主员之一。念书时期，Levy 是斯坦福大学规划机科学专科的博士生，究诘标的是机器学习、优化和诡秘；硕士期间，他在斯坦福大学究诘概率模子和强化学习。毕业后，他还曾在 Facebook 和谷歌行状过。
而 SSI 的另一位首创东说念主 Daniel Gross，有着愈加丰富的研发、创业与投资经历。不仅与他东说念主共同创立了 Cue，曾担任 Y-Combinator 的结伙东说念主，况且是 Uber、Instacart、Figma、GitHub、Airtable、Rippling、CoreWeave、Character.ai 等公司的闻明时候投资者，还在苹果教唆了多年的东说念主工智能行状。
本年 3 月，Gross 晓示投资了一家 AI 芯片公司 MatX。4 月，他还表现我方纪念了搜索领域，并教唆 Perplexity 的最新一轮融资。
值得一提的是，在前不久的 WWDC24 大会上，OpenAI 晓示与苹果公司设立和洽伙伴干系，将 ChatGPT 深度集成在苹果居品矩阵中，包括最新的 iOS、iPadOS 和 macOS。这将影响民众 20 多亿活跃拓荒， OpenAI 的用户磨灭范围得以进一形势扩大。其时，这一音尘还引起了不少东说念主关于数据及诡秘安全的担忧与热议，包括埃隆·马斯克（Elon Musk）。
对此，也有网友表现，SSI 接下来应该去和埃隆·马斯克客岁成立的东说念主工智能公司 xAI 和洽。
Ilya 的数年安全积聚“变现”了
据外媒报说念，微交易Sutskever 这么注重说明新公司 SSI 的才能：“咱们所说的安全，是指像核安全不异的安全，而不是像'信任和安全'不异的安全；OpenAI 的核快慰全原则之一是成为信任和安全的前驱。”
在 OpenAI 时，Sutskever 是该公司进步手工智能安全性行状中不行或缺的一员。很长一段时刻以来，Sutskever 一直在眷注东说念主工智能安全的难办问题。
客岁，Sutskever 带头推翻了 OpenAI 首席奉行官 Sam Altman 的职务。但几天后，Altman 在莫得 Sutskever 的新董事会教唆下重返公司。本年 5 月，Sutskever 和前 Alignment 哄骗 Jan Leike 皆晓示离开 OpenAI。
据了解，Sutskever 和 Leike 曾共同教唆 OpenAI 的 Superalignment 团队。该团队不仅力争于于使东说念主工智能的步履和操办与东说念主类的价值不雅和操办保握一致，还力争于于注重超等智能东说念主工智能 "失控"。而他们的同期辞职，可能预示着 OpenAI 可能并不喜爱安全问题。此前 OpenAI 的战略究诘员格雷琴 - 克鲁格（Gretchen Krueger）在晓示辞职时，也提到了安全问题。
辞职后，Leike 还在卤莽媒体上连气儿发帖责难 OpenAI："安全文化和经由也曾被闪亮的居品所取代"，"我一直不快乐 OpenAI 的作念法。我与 OpenAI 教唆层就公司的中枢优先事项产生不合也曾有一段时刻了，直到咱们最终达到了一个爆发点”。其时，Altman 和 OpenAI 总裁 Greg Brockman 恢复了 Leike 的指控，承认还有更多行状要作念，他说：“咱们终点崇拜地对待咱们在这里的变装，并仔细衡量对咱们步履的反应。
Sutskever 在辞职时，看似与 Leike 的态度不同，表现他 "笃信 OpenAI 将在 Altman 的教唆下，打造出既安全又故意的 AGI"，但又暗意其将独自驱动一个新神气，而预热的或者便是当今官宣的新公司 SSI 了。
谈及 SSI 的成立，Sutskever 表现，他花了数年时刻酌量安全问题，况且也曾思到了一些才能。“在最基本的层面上，安全的超等智能应该具有不会大范畴伤害东说念主类的特点。”Sutskever 称，“咱们的最终操办是创造一个“安全的超等智能”，它不会伤害东说念主类，并将基于解放和民主等价值不雅运作。
结语
事实上，这也曾不是 OpenAI 的职工第一次脱离 ChatGPT 制造商，去制造 "安全 "的东说念主工智能系统了。2021 年，该公司前东说念主工智能安全哄骗 Dario Amodei 分拆出了我方的初创公司 Anthropic。据知情东说念主士走漏，Anthropic 已从亚马逊融资 40 亿好意思元，还从风险投资者那边融资数亿好意思元，估值卓绝 180 亿好意思元。
目下，SSI 天然莫得对外露馅公司的财务相沿者以及迄今为止筹集的金额，但 SSI 的三位首创东说念主表现，开发安全的超等智能——一种不错取代东说念主类剖析材干的机器智能是该公司的“独一要点”。该假想将不受投资者收入条件的抑制，举例号令顶尖东说念主才加入。
也便是说，SSI 将是一个隧说念以究诘为要点的组织，而不是 OpenAI 目下的营业模式，其中包括其东说念主工智能模子的营业化。
令东说念主齰舌的是，OpenAI 成立当先晓示的职责与 SSI 访佛，旨在作念一个创造造福东说念主类的超等智能东说念主工智能的非谋利性究诘实验室。当今，天然 Altman 宣称这仍然是 OpenAI 的教唆原则，但在他的教唆下，该公司似乎也曾形成了一家快速增长收入为主的企业。
有网友对 SSI 抱有高期待，但愿其能成为一个作念开源 AI 居品的公司。也有网友簸弄到，“Sutskever 干嘛要创办一家新公司，而不是班师加入 Anthropic 或 Google？是否应该将此评释注解为含蓄地对他们投出了不信任票？”
参考贯串：
https://www.theverge.com/2024/6/19/24181870/openai-former-chief-scientist-ilya-sutskever-ssi-safe-superintelligence
https://time.com/6990076/safe-superintelligence-inc-announced/
https://www.ft.com/content/68cb9b1f-c3bb-4a90-a8b6-17b7e3ecd234?sharetype=gift
https://slashdot.org/story/24/06/19/1823253/openai-co-founder-ilya-sutskever-launches-venture-for-safe-superintelligence
点击底部阅读原文探询 InfoQ 官网，获取更多精彩实验！
德国再次拥抱Linux：数万系统从windows迁出，能否闪避二十年前的“坑”？
Swift 6 的期间莅终末！苹果：它是超越 C++ 的最好摄取
React 19 差点拖慢通盘互联网！中枢团队进军叫停
七年毫无后果，2.5 亿澳元打了水漂！澳大利亚证券往来所得到的经历：企业区块链从来皆莫得任何兴趣
AltmanLeike公司东说念主工智能OpenAI发布于：北京市声明：该文不雅点仅代表作家本东说念主，搜狐号系信息发布平台，搜狐仅提供信息存储空间服务。