OpenAI创始人Sam Altman和Brockman将加入微软
微软首席执行官纳德拉:OpenAI创始人Sam Altman和Brockman将加入微软。
The information:Ilya 和董事会确认 Sam 不会回归后,已经有几十名 OpenAI 员工宣布辞职。
另一方面,xAI、Meta AI 和英伟达的员工纷纷分享自家的招聘链接…
微软厉害了!
没想到微软越来越厉害了。 微软也是openai董事会的股东吧 这就是传说中的向社会输送人才 吧 Openai 董事会的脑袋是不是被驴踢了?主动向社会输送人才? 今年 ChatGPT 爆红后,Ilya 跟 Sam 开始有一些矛盾出现,最主要是出在“安全性”上面。
Ilya 很早就觉得 AI 产生了“意识”,然后最近的发展让他越来越不安,觉得我们对 AI 限制的工具比不上 AI 进步的速度,迟早会出现大问题。
所以他在今年七月时,在 OpenAI 内部成立了新的团队,希望要好好研究“超级对齐”(Superalignment),来确保未来的“超级 AI”不会失控。
但 AI 实在太红,到 OpenAI Dev Day 达到了高峰,Sam altman 也对外宣佈了要开始训练下一世代的 GPT-5、并准备开始募资。
在这个关键时刻,Ilya 忍不住了,他的超级对齐预计是四年完成,如果超级 AI 在那之前出现,他无法保证这个智慧体是“足够安全”的,所以联合了董事会,发动了这次的罢免。
我在猜这可能也是董事会觉得 Sam “不老实”的主要地方,你的首席科学家觉得超级 AI 还不安全,但你没跟我们说。
转的,不知真假 Ilya 是“AI 教父” Geoffrey Hinton 实验室的学生,没有 Hinton 就没有现在的类神经网络。没有 Ilya 也不会有现在的 ChatGPT。
创办 OpenAI 之前,Ilya 不管在 AI 的图像辨识或是语言翻译上面,都有超好的成果,2013年进到 Google Brain 担任科学家。
2015年,Sam Altman 和 Greg Brockman 邀请 Ilya 一起创办 OpenAI,Google 知道后,开出高于 OpenAI 两三倍的薪水--接近两百万美元,想留住 Ilya,但 Ilya 还是决定投入当时仍然非营利的 OpenAI。 openai的首席科学家ilya说他们的AI距离产生意识只有一步之遥了,他希望能在这之前能做好与之相关的安全工作,防止到时AI失控。
我倾向于相信他说的,作为创造了CPT4这样划时代AI产品的专家团队,我认为创造一个远远超越GPT4的全新智能体是完全有可能的 open ai员工开始逼宫了,九成员工要董事会下台,否则就去微软 startwar0418 发表于 2023-11-21 10:05
open ai员工开始逼宫了,九成员工要董事会下台,否则就去微软
(引用自9楼)
然后员工成功逼宫,董事会去了微软{:lol:} {:lol:} {:lol:} 代码会不会产生自主意识,如果有意识存储在什么地方,自主意识怎么表现出来,谁能讲解一下 hamwang1 发表于 2023-11-21 11:43
代码会不会产生自主意识,如果有意识存储在什么地方,自主意识怎么表现出来,谁能讲解一下 ...
(引用自11楼)
会不会是类似群体意识?人和动物的细胞也没有意识,但是组合在一起就对事务有了趋向性。
独立个体或小团体基本没有意识或者意识非常弱,但是数量庞大了之后在一件事情的决策就非常有可能会出现趋向性。
比如神经网络节点少的时候基本没啥用,数量多了再进行训练后能力就很强了。
之前看过一些科普说人的视觉细胞和大脑神经的连接是毫无规律的,是经过训练神经自动匹配上的。感觉上有些像矩阵。
如果这个路子是对的,那以后发展创造出个硅基的生物完全有可能。 他们搞的AI如果有了意识,会不会想方设法的24小时攻击印度的防火墙?
页:
[1]