首页 文章详情

超级对齐解散,OpenAI朝着AGI狂奔

proginn1115578861 | 129 2024-05-24 17:38 0 0 0
UniSMS (合一短信)

离职员工必须承诺终生不贬低公司,否则将失去所有已经获得的巨额股权。你没看错,这个霸王离职条款并不是国内的公司,而是出自AI行业的明星公司OpenAI。

OpenAI的首席科学家伊利亚离开OpenAI之后,负责管控AI的超级对齐团队彻底解散了。负责人Jan Leike在社交媒体炮轰OpenAI,说对齐团队没有足够的算力,OpenAI 管理层不重视 AI 安全。

524fb5d62e2acf327e16d83bb35f6dde.webp

Jan Leike甚至在社交媒体充满了感情的发出了绝望般的呼吁:我想对所有 OpenAI 员工说:学会感受AGI。采取与你正在构建的事物相适应的庄重态度。我相信您可以“实现”所需的文化变革。我指望你了。全世界都指望着你。

这下社交媒体彻底炸锅了,山姆奥特曼也不得不站出来说:他会写一篇很长的文章来回应指责。毫无疑问,Jan Leike的股权是泡汤了。而且还不止他,还有一位前员工 Daniel 称,他不得不交出一大笔钱才能不签署霸王条款。还有人贴出来了理念因为AI安全理念和山姆奥特曼产生冲突而离开OpenAI的安全负责人们:特别是2021年离开了OpenAI创建了Anthropic的阿莫迪。如今又加上了伊利亚和Jan Leike

81855a97b4c6b7c928aa8be6d785a3ed.webp

这场闹剧的背后,还是围绕人工智能的两种理念之争:商业化至上,还是优先确保AI安全可控?最终安全可控败下阵来,输得一败涂地。其实类似的戏码总是在不停地上演着:在不出大事的情况下,谁会那么在意安全呢?何必费了半天为了一个长远的虚无缥缈的目标,而放弃眼前巨大的利益呢?技术理想主义者最终总是不低商业化的。OpenAI也不能免俗啊。

可以预见的是,OpenAI在商业化的道路上会越走越快,只是不知道这究竟是不是未来人类这个碳基生命灭亡的序章呢?

范凯谈AI,欢迎加我个人微信:CTOfankai, 和我交流。

good-icon 0
favorite-icon 0
收藏
回复数量: 0
    暂无评论~~
    Ctrl+Enter