投身 OpenAI 万引理论大佬离职微软
来源:网络 热度:190℃ 2024/11/1 23:25:58

据传闻证实,微软机器学习理论领域的巨头 Sebastien Bubeck 已正式跳槽加入 OpenAI。
入职第一天,他就发出了如此感慨:“我加入 OpenAI,是因为我相信这是开发安全 AGI 的关键时刻。”
话一说出口就得到了印证,他口中的人才们都来评论区排队欢迎了。
Sebastien Bubeck 的职业生涯
Sebastien Bubeck 是微软前 AI 副总裁和杰出科学家,在微软工作了 10 年。
2021 年,他曾用一篇理论研究展示扩大 AI模型规模的重要性,帮助说服微软 CEO 纳德拉在 AI 基础设施上增加数十亿美元的投资。
他的职业生涯前 15 年都投入在计算机理论和机器学习理论,研究的是凸优化、在线学习和对抗稳健性这些问题,直到——
微软作为 OpenAI 的合作伙伴,派他参与了未安全对齐版的 GPT-4 早期测试,期间他来了一场戏剧性的转型。
全面转向 AGI 研究
在当时外界还只接触过 GPT-3.5 的背景下,看起来就像理论学者转型研究科幻了,而他本人是这么解释的:“我惊讶于 GPT-4 的能力,它让我重新思考了我对 AI 的理解。我相信 AGI 是可能实现的,而且我渴望为它的发展做出贡献。”
之后他便带领微软团队发布一篇 154 页的 GPT-4 实验报告《AGI 的火花》,一时引起全业界轰动,成为人们对 AI 过高期待的重要推手。
后来他承认过当时的实验方法并不算严格,但并不后悔,并坚持没有证据否定 GPT-4 已经具有一定推理能力。
对 Transformer 的独特见解
在转型期间的一次演讲中,他分享了自己对 Transformer 到底有什么特别之处的思考,指出很多人容易忽略的一点:Transformer 不是序列模型。
与 RNN 等模型的关键区别在于 Transformer 一次处理一个集合,而不是序列中的单个输入。
加入 OpenAI 的微妙时机
这次他加入 OpenAI 的时机非常微妙,本人强调是在开发安全 AGI 的关键时刻加入。
微软发言人的声明中也提到,Sebastien 已决定离开微软,以进一步开发 AGI。

同时,现在也是 OpenAI 和微软联盟渐渐破裂的时刻,奥特曼和 OpenAI 首席财务官近期对员工抱怨,微软行动速度不够快,没有提供足够的服务器。
两家开始相互视对方为备胎,OpenAI 找了甲骨文做额外的云计算供应商,微软也开始在旗下产品中接入谷歌和 Anthropic 模型。
不得不说,很耐人寻味。
毕业于法国里尔大学数学专业
一篇本文影响微软对 AI 的数十亿美元投入,Sebastien Bubeck,2010 年博士毕业于法国里尔大学数学专业。
在普林斯顿大学做三年助理教授后,于 2014 年加入微软,从普通研究员一路做到 VP。
在 2023 年转型 AGI 研究之前,就凭理论研究收获上万被引,现在总被引数来到 23475。
对人工智能业界的影响
2021 年他与斯坦福博士生 Mark Sellke 合著本文《A Universal Law of Robustness via Isoperimetry》,不仅入选 NeurIPS 2021 杰出本文,也对微软和整个人工智能业界产生影响。
本文解释了为什么实践中训练模型需要的参数比理论建议的要多得多,帮助说服微软 CEO 纳
特别声明:本站属个体站点,非官方网站。本站的文章内容由系统自动采集,不保证其真实性,敬请自行核实广告和内容真实性,并请谨慎使用。本站和本人不承担由此产生的一切法律后果! |