担心 AI 毁灭人类的科学家离开 OpenAI

编辑:三茅网 2024-05-17 09:42 180 阅读

OpenAI 联合创始人、首席科学家伊尔亚·苏茨克维(Ilya Sutskever)在社交媒体宣布,已经离开工作十多年的公司。他的继任者是 OpenAI 原研发总监雅库布·帕乔基(Jakub Pachocki)。后者本科毕业于波兰华沙大学,博士毕业于卡耐基梅隆大学,在哈佛大学做过一年博士后。2017 年离开学术界,开始在 OpenAI 工作,也是开发 GPT-4 的关键人物之一。

OpenAI CEO 萨姆·阿尔特曼发文回应,“伊尔亚要与 OpenAI 分道扬镳了,这让我很难过;伊尔亚无疑是我们这一代最具才智的人物之一,是我们这个领域的指路明灯,也是一位亲爱的朋友。他的才华和远见是众所周知的;他的热情和同情心不那么为人所知,但同样重要。没有他,OpenAl 就不会有今天。”

OpenAI 总裁布洛克曼也发文感谢苏茨克维的付出,称其为一位艺术家:“尽管人们怀疑 AGI 是否在可预见的未来出现,但我们会仔细思考并采取行动,坚信深度学习可以带我们到达那里。”

2015 年,当阿尔特曼与马斯克决定创办一个非营利性的 AI 研究实验室时,马斯克为了把苏茨克维从 Google 挖走,不惜与 DeepMind 的 CEO 哈萨比斯决裂。苏茨克维加入 OpenAI 后,凭借其在软件系统开发方面的专业背景,领导了对 GPT 的研发。

去年 11 月,苏茨克维主导了罢免 CEO 阿尔特曼的 “政变”,但很快反悔,迎回阿尔特曼,之后便再也没有公开发声。外界普遍认为二者的分歧可能源于 OpenAI 商业化带来的安全风险。

苏茨克维是一个纯粹的技术理想主义者,认为 AI 必须永远可控,且以人类的价值观和道德规范行事,尤其是当他认识到 AI 的自主性正在迅速提升,并可能在未来超越人类。如果这样的超级智能缺乏对人类无条件的认同和爱,就可能取代甚至毁灭人类。

阿尔特曼的态度和行为则更加接近 “有效加速主义”,即相信面临颠覆式的技术创新时,最好的办法是尽快地推向市场,哪怕技术本身还不完美,实际应用和真实反馈也比无止境地研究更有价值。硅谷知名投资人马克·安德森(Marc Andreessen)和 YC 现任 CEO 陈嘉兴(Garry Tan)都旗帜鲜明地信奉这种价值观。

去年 7 月,在 ChatGPT 刚刚完成一次有明显商业化意图的大更新后,苏茨克维和另一位 OpenAI 科学家简·莱克(Jan Leike)在 OpenAI 内部成立了 “超级对齐” 团队,要用 OpenAI 至少 20% 的算力资源,来让人工智能系统与人类的价值观保持一致。这次苏茨克维宣布离职几个小时后,莱克也紧接着辞职。上个月,“超级对齐” 团队两位核心研究员还曾被 OpenAI 开除。

苏茨克维是以色列裔加拿大人,师从 2018 年图灵奖得主杰弗里·辛顿(Geoffrey Hinton)。在他的学术历程中,2012 年开发的深度卷积神经网络 AlexNet 是重要一环,它在当年的 ImageNet 挑战赛中夺冠,且精确度是第二名的两倍。AlexNet 的成功为深度学习领域的发展奠定基础,也在一定程度上影响当前 AI 领域对 GPU 的重视。

此外,他在时序预测回归模型 Seq2Seq、主流机器学习框架 TensorFlow 等自然语言处理、计算机视觉等领域都有重要的科研成果。ICLR 2024 会议为了寻找具有长期影响力的论文,审查了十年前的学术研究,苏茨克维在 2014 年的一篇论文获得时间检验奖亚军。

苏茨克维称他已有下一步计划,但并未透露更多细节。

(本文来源晚点LatePost,如有侵权请联系删除)

洞察 | 今年的HR市场,很反常
最近,在HR社群收到一个问题咨询,大致的意思是:今年的HR市场太反常了吧,一个从大厂降维跳槽的人事经理竟然不符合要求,真不知道老板想要怎么样的HR?同为HR,最懂招人的痛。一个IP为广东的HR吐槽:自己面了这么...
2024-05-29 07:13
下载APP
扫码下载APP
三茅公众号
扫码添加公众号
在线咨询
扫码在线咨询
消息
关注
粉丝
正在加载中
猜你感兴趣
换一批
评论和点赞
59452
企业的人才理念应该和整体的用人理念有所区别,因为人才和普通劳动力,本身就身就存在质量身就存在质量存在质量
评论和点赞
59452
企业的人才理念应该和整体的用人理念有所区别,因为人才和普通劳动力,本身就身就存在质量身就存在质量存在质量
评论和点赞
59452
企业的人才理念应该和整体的用人理念有所区别,因为人才和普通劳动力,本身就身就存在质量身就存在质量存在质量
评论和点赞
59452
企业的人才理念应该和整体的用人理念有所区别,因为人才和普通劳动力,本身就身就存在质量身就存在质量存在质量
评论和点赞
59452
企业的人才理念应该和整体的用人理念有所区别,因为人才和普通劳动力,本身就身就存在质量身就存在质量存在质量
更多
消息免打扰
拉黑
不再接受Ta的消息
举报
返回消息中心
暂无权限
成为三茅认证用户,即可使用群发功能~
返回消息中心
群发消息本周还可群发  次
文字消息
图片消息
群发须知:
(1)  一周内可向关注您的人群发2次消息;
(2)  创建群发后,工作人员审核通过后的72小时内,您的粉丝若有登录三茅网页或APP,即可接收消息;
(3)  审核过程将冻结1条群发数,通过后正式消耗,未通过审核会自动退回;
(4)  为维护绿色、健康的网络环境,请勿发送骚扰、广告等不良信息,创建申请即代表您同意《发布协议》
本周群发次数不足~
群发记录
暂无记录
多多分享,帮助他人成长,提高自身价值
群发记录
群发文字消息
0/300
群发
取消
提交成功,消息将在审核通过后发送
我知道了
您可以向我询问有关该内容的任何信息,或者点击以下选项之一:
{{item}}
三茅网出品,免费使用
复制
全选
总结
解释一下
延展问题
自由提问

担心 AI 毁灭人类的科学家离开 OpenAI

编辑:三茅网2024-05-17 09:42
180 阅读

OpenAI 联合创始人、首席科学家伊尔亚·苏茨克维(Ilya Sutskever)在社交媒体宣布,已经离开工作十多年的公司。他的继任者是 OpenAI 原研发总监雅库布·帕乔基(Jakub Pachocki)。后者本科毕业于波兰华沙大学,博士毕业于卡耐基梅隆大学,在哈佛大学做过一年博士后。2017 年离开学术界,开始在 OpenAI 工作,也是开发 GPT-4 的关键人物之一。

OpenAI CEO 萨姆·阿尔特曼发文回应,“伊尔亚要与 OpenAI 分道扬镳了,这让我很难过;伊尔亚无疑是我们这一代最具才智的人物之一,是我们这个领域的指路明灯,也是一位亲爱的朋友。他的才华和远见是众所周知的;他的热情和同情心不那么为人所知,但同样重要。没有他,OpenAl 就不会有今天。”

OpenAI 总裁布洛克曼也发文感谢苏茨克维的付出,称其为一位艺术家:“尽管人们怀疑 AGI 是否在可预见的未来出现,但我们会仔细思考并采取行动,坚信深度学习可以带我们到达那里。”

2015 年,当阿尔特曼与马斯克决定创办一个非营利性的 AI 研究实验室时,马斯克为了把苏茨克维从 Google 挖走,不惜与 DeepMind 的 CEO 哈萨比斯决裂。苏茨克维加入 OpenAI 后,凭借其在软件系统开发方面的专业背景,领导了对 GPT 的研发。

去年 11 月,苏茨克维主导了罢免 CEO 阿尔特曼的 “政变”,但很快反悔,迎回阿尔特曼,之后便再也没有公开发声。外界普遍认为二者的分歧可能源于 OpenAI 商业化带来的安全风险。

苏茨克维是一个纯粹的技术理想主义者,认为 AI 必须永远可控,且以人类的价值观和道德规范行事,尤其是当他认识到 AI 的自主性正在迅速提升,并可能在未来超越人类。如果这样的超级智能缺乏对人类无条件的认同和爱,就可能取代甚至毁灭人类。

阿尔特曼的态度和行为则更加接近 “有效加速主义”,即相信面临颠覆式的技术创新时,最好的办法是尽快地推向市场,哪怕技术本身还不完美,实际应用和真实反馈也比无止境地研究更有价值。硅谷知名投资人马克·安德森(Marc Andreessen)和 YC 现任 CEO 陈嘉兴(Garry Tan)都旗帜鲜明地信奉这种价值观。

去年 7 月,在 ChatGPT 刚刚完成一次有明显商业化意图的大更新后,苏茨克维和另一位 OpenAI 科学家简·莱克(Jan Leike)在 OpenAI 内部成立了 “超级对齐” 团队,要用 OpenAI 至少 20% 的算力资源,来让人工智能系统与人类的价值观保持一致。这次苏茨克维宣布离职几个小时后,莱克也紧接着辞职。上个月,“超级对齐” 团队两位核心研究员还曾被 OpenAI 开除。

苏茨克维是以色列裔加拿大人,师从 2018 年图灵奖得主杰弗里·辛顿(Geoffrey Hinton)。在他的学术历程中,2012 年开发的深度卷积神经网络 AlexNet 是重要一环,它在当年的 ImageNet 挑战赛中夺冠,且精确度是第二名的两倍。AlexNet 的成功为深度学习领域的发展奠定基础,也在一定程度上影响当前 AI 领域对 GPU 的重视。

此外,他在时序预测回归模型 Seq2Seq、主流机器学习框架 TensorFlow 等自然语言处理、计算机视觉等领域都有重要的科研成果。ICLR 2024 会议为了寻找具有长期影响力的论文,审查了十年前的学术研究,苏茨克维在 2014 年的一篇论文获得时间检验奖亚军。

苏茨克维称他已有下一步计划,但并未透露更多细节。

(本文来源晚点LatePost,如有侵权请联系删除)

展开全文
顶部
AI赋能,让您的工作更高效
您可以向我询问有关该内容的任何信息,或者点击以下选项之一:
{{item}}
{{copyMenuTxt}}
您可以向我询问有关该内容的任何信息,或者点击以下选项之一:
{{item}}
{{copyMenuTxt}}
三茅网出品,免费使用
复制
全选
总结
解释一下
延展问题
自由提问
联系我们(工作日 09:00-19:00 )