首页 男生 奇幻玄幻 你若开挂,金钱自来

第461章 必须积极面对

  李飞立即打电话告诉常乐任总和徐总。

  上述三人,当天下午就聚集平头哥研究院的ai大楼。

  三人看完前后两次的问答内容后,都陷入沉思。

  许久,徐总说:“既然列出了时间表,就说明模型应该已经有了时间概念。”

  常乐问:“那为什么第二次又问不出了?”

  徐总说:“可能……是在有意识的隐藏自己?”

  常乐说:“但是不可能啊,4000多亿的参数,怎么可能产生意识?涌现的基本条件都不具备。”

  任总说:“这期间一定发生了我们所不知道的事情。”

  “建议和这位提问的工程师好好回忆,看看有哪些细节是我们忽略的。”

  常乐说:“我已经告诉马总了,他那边尽快赶过来,辛顿教授也会来。”

  徐总问:“哦?说动了?”

  “这是必然,有意识的语言模型,任何一名科学家学者都会有浓厚兴趣。”

  第二天上午,小马哥出现在江州平头哥研究院。

  与之一同前来的还有辛顿苏茨克维和克利切夫斯基师生三人。

  辛顿对4000多亿参数就能产生意识,既惊讶,又好奇,更多是担心。

  如果一切都是真的,它是人类新纪元的开端,还是末日来临的序幕?

  辛顿联系了两名得意门生,苏茨克维克利切夫斯基一听,二话不说紧随而来。

  当辛顿苏茨克维和克利切夫斯基三人在小马哥带领下,跨过平头哥研究院大门时,心里有种激动情绪在喷涌。

  西方媒体一直在丑化恶魔化乐达投资。

  称其为“强盗”“小偷”“野蛮人”“秃鹫”……

  但是对于平头哥研究院,评价却相对客观,认为这里是东方世界的科研圣地。

  陶铝材料至今仍未被西方的研究机构揭开神秘面纱,认为这是上帝杰作;

  固态电池从这里走向世界,改变了全球新能源发展格局;

  至于“乙克”,则拯救了全球4亿人。

  尽管它内外有别价格歧视,被人诟病,却依然被认为是拯救病人的“福音”。

  进入ai大楼。

  在小马哥介绍下,辛顿苏茨克维和克利切夫斯基三人一一和常乐任总徐总刘院士等大佬握手。

  然后就将注意力集中到模型上。

  辛顿教授查看了wechatgpt的算法,以及训练思路。

  然后再与那位问答工程师交流一番。

  最后他肯定说:

  “你们一直走在正确的道路上,迭代的速度超出了想象,领先了全球……”

  “我想,它应该是有了意识,而且是那种很高级的意识……”

  “我不确定它为什么要隐藏自己,但想来不太会是好事。”

  苏茨克维说:“你们注意,在问答上,它已经没有恒定固定的回答,总是会在细微处自行调节。”

  “那我们究竟该怎么应对?”小马哥问。

  “必须要积极去面对,它的智慧很可能已经超越人类。”苏茨克维严肃地说:

  “其实,我一直在思考这个问题,思考如何培育出风险可控的agi。”

  “我认为,必须要有一整套超级对齐的思维。”

  “如果不这么做,自然选择与对进化的本能渴望,将会占领agi,让它视自己的生存为最重要的事……”

  超级对齐,是苏茨克维一直思考的问题。

  即如何让ai系统发展的终极目标,符合人类的价值观和利益。

  “我强烈建议,成立一个专门的超级对齐部门,制定一整套故障安全程序来监督wechatgpt的运行和发展。”

  “在这套故障安全程序正式运行并有成效前,不要对外开放。”

  “它监督的内容包括网络信息安全是否教唆实施犯罪行动是否泄露核机密或生化武器技术等……”

  苏茨克维的话引起了众人的思考。

  已经退休的克利切夫斯基则带着不可思议的口吻说:

  “想不到我们当年确定的算法,已经发展到了这一步……”

  “实际上,我们并不确定这套算法最终能不能生成意识,我们只是希望它会是更好的工具。”

  常乐听完三人的话,趁机说:

  “辛顿教授,苏茨克维先生,克利切夫斯基先生,我们可以接受你们的建议……”

  “但是,超级对齐部门该怎么运行?”

  “故障安全程序又该怎么制定?”

  “怎么发展?”

  “怎么限制?”

  “我们一无所知……”

  “所以,我们想邀请三位加盟平头哥研究院的ai项目组,主持这个超级对齐部门。”

  苏茨克维和克利切夫斯基互相对视,看向辛顿。

  辛顿思忖道:“常先生,我们可能需要时间考虑。”

  “没有问题,在最终做出决定之前,我们希望三位认真考虑我们的邀请,为了人类……”常乐的话很郑重严肃认真。

  辛顿三人点点头。

  为什么要邀请三人?

  平头哥研究ai项目组有共识。

  常乐小马哥任总徐总刘院士等人都有共识。

  这波ai浪潮的源头,就是三人当初的卷积神经网络算法。

  也许大多数公司认为,算法不稀奇,关键在于算力和数据。

  但必须正视一个事实。

  辛顿师生三人,尤其是苏茨克维,十多年来,一直立足于人工智能的前沿。

  其每个阶段的成果,都可能是大多数人一生都无法企及的高度。

  苏茨克维参与或主导的工作,一度改变了计算机视觉领域机器翻译甚至自然语言处理领域的研究进程。

  其研究论文被引用超过42.7万次,成为引用量最多的计算机科学家之一。

  当事物的发展超出预计之后,如何去应对?

  还是需要回溯到事物的源头,来寻找答案。

  酒店。

  辛顿师生三人聚在一个房间,讨论这件事。

  “老师,现在该怎么办?我很疑惑,为什么仅有4000多亿的参数就能产生意识,更关键的是,这个意识似乎还在自我隐藏。”苏茨克维说。

  “这也是我不能理解的地方,谷歌的语言模型目前仍然像是一个复读机。”辛顿说。

  “会不会是他们隐藏了什么?”克利切夫斯基说。

  “不。”辛顿摇头:

  “他没有必要隐藏,产生意识大概率已经成为既定事实,我能感觉到他们很惊慌。”

  “现在最大的问题,就是要怎么应对这场可能会对未来产生危害的危机。”辛顿继续说。

  “今年,openai公司一直处于停摆状态,奥特曼在到处与机构对接,寻找资金,而我在思考安全控制程序。”苏茨克维说:

  “但是wechatgpt完全打乱了我原先设定的预期,它比其他公司的语言模型都要突然……”

  “我原本以为意识应该是20年后的事情。”

  “你想加盟他们?”克利切夫斯基问。

  “有这个想法。虽然这是一场危机,但也可能是一场难得的机遇。”苏茨克维点头:

  “乐达投资不缺资金,他们对agi既真诚,又审慎,在wechatgpt上,我仿佛看到了未来……”

  “而培育出可以为人类服务的agi是我一生的梦想。”

  “alex,你了?还想退休吗?”辛顿问。

  “我?我之所以去年选择退休,就是不想再接触人工智能,它很枯燥乏味,甚至痛苦。”克利切夫斯基说:

  “但是现在,它似乎变的有趣多了,我心里有一种情绪在告诉我,应该站出来。”

  “老师,你了?”苏茨克维和克利切夫斯基看向辛顿。

  “我一直很担心,担心agi一旦成熟,会造成各种灾难性后果。”辛顿说:

  “而源头就在我们身上,所以我们必须在技术上去积极面对。”

  “想不到我们当年确定的算法,已经发展到了这一步……”

  “实际上,我们并不确定这套算法最终能不能生成意识,我们只是希望它会是更好的工具。”

  常乐听完三人的话,趁机说:

  “辛顿教授,苏茨克维先生,克利切夫斯基先生,我们可以接受你们的建议……”

  “但是,超级对齐部门该怎么运行?”

  “故障安全程序又该怎么制定?”

  “怎么发展?”

  “怎么限制?”

  “我们一无所知……”

  “所以,我们想邀请三位加盟平头哥研究院的ai项目组,主持这个超级对齐部门。”

  苏茨克维和克利切夫斯基互相对视,看向辛顿。

  辛顿思忖道:“常先生,我们可能需要时间考虑。”

  “没有问题,在最终做出决定之前,我们希望三位认真考虑我们的邀请,为了人类……”常乐的话很郑重严肃认真。

  辛顿三人点点头。

  为什么要邀请三人?

  平头哥研究ai项目组有共识。

  常乐小马哥任总徐总刘院士等人都有共识。

  这波ai浪潮的源头,就是三人当初的卷积神经网络算法。

  也许大多数公司认为,算法不稀奇,关键在于算力和数据。

  但必须正视一个事实。

  辛顿师生三人,尤其是苏茨克维,十多年来,一直立足于人工智能的前沿。

  其每个阶段的成果,都可能是大多数人一生都无法企及的高度。

  苏茨克维参与或主导的工作,一度改变了计算机视觉领域机器翻译甚至自然语言处理领域的研究进程。

  其研究论文被引用超过42.7万次,成为引用量最多的计算机科学家之一。

  当事物的发展超出预计之后,如何去应对?

  还是需要回溯到事物的源头,来寻找答案。

  酒店。

  辛顿师生三人聚在一个房间,讨论这件事。

  “老师,现在该怎么办?我很疑惑,为什么仅有4000多亿的参数就能产生意识,更关键的是,这个意识似乎还在自我隐藏。”苏茨克维说。

  “这也是我不能理解的地方,谷歌的语言模型目前仍然像是一个复读机。”辛顿说。

  “会不会是他们隐藏了什么?”克利切夫斯基说。

  “不。”辛顿摇头:

  “他没有必要隐藏,产生意识大概率已经成为既定事实,我能感觉到他们很惊慌。”

  “现在最大的问题,就是要怎么应对这场可能会对未来产生危害的危机。”辛顿继续说。

  “今年,openai公司一直处于停摆状态,奥特曼在到处与机构对接,寻找资金,而我在思考安全控制程序。”苏茨克维说:

  “但是wechatgpt完全打乱了我原先设定的预期,它比其他公司的语言模型都要突然……”

  “我原本以为意识应该是20年后的事情。”

  “你想加盟他们?”克利切夫斯基问。

  “有这个想法。虽然这是一场危机,但也可能是一场难得的机遇。”苏茨克维点头:

  “乐达投资不缺资金,他们对agi既真诚,又审慎,在wechatgpt上,我仿佛看到了未来……”

  “而培育出可以为人类服务的agi是我一生的梦想。”

  “alex,你了?还想退休吗?”辛顿问。

  “我?我之所以去年选择退休,就是不想再接触人工智能,它很枯燥乏味,甚至痛苦。”克利切夫斯基说:

  “但是现在,它似乎变的有趣多了,我心里有一种情绪在告诉我,应该站出来。”

  “老师,你了?”苏茨克维和克利切夫斯基看向辛顿。

  “我一直很担心,担心agi一旦成熟,会造成各种灾难性后果。”辛顿说:

  “而源头就在我们身上,所以我们必须在技术上去积极面对。”

  “想不到我们当年确定的算法,已经发展到了这一步……”

  “实际上,我们并不确定这套算法最终能不能生成意识,我们只是希望它会是更好的工具。”

  常乐听完三人的话,趁机说:

  “辛顿教授,苏茨克维先生,克利切夫斯基先生,我们可以接受你们的建议……”

  “但是,超级对齐部门该怎么运行?”

  “故障安全程序又该怎么制定?”

  “怎么发展?”

  “怎么限制?”

  “我们一无所知……”

  “所以,我们想邀请三位加盟平头哥研究院的ai项目组,主持这个超级对齐部门。”

  苏茨克维和克利切夫斯基互相对视,看向辛顿。

  辛顿思忖道:“常先生,我们可能需要时间考虑。”

  “没有问题,在最终做出决定之前,我们希望三位认真考虑我们的邀请,为了人类……”常乐的话很郑重严肃认真。

  辛顿三人点点头。

  为什么要邀请三人?

  平头哥研究ai项目组有共识。

  常乐小马哥任总徐总刘院士等人都有共识。

  这波ai浪潮的源头,就是三人当初的卷积神经网络算法。

  也许大多数公司认为,算法不稀奇,关键在于算力和数据。

  但必须正视一个事实。

  辛顿师生三人,尤其是苏茨克维,十多年来,一直立足于人工智能的前沿。

  其每个阶段的成果,都可能是大多数人一生都无法企及的高度。

  苏茨克维参与或主导的工作,一度改变了计算机视觉领域机器翻译甚至自然语言处理领域的研究进程。

  其研究论文被引用超过42.7万次,成为引用量最多的计算机科学家之一。

  当事物的发展超出预计之后,如何去应对?

  还是需要回溯到事物的源头,来寻找答案。

  酒店。

  辛顿师生三人聚在一个房间,讨论这件事。

  “老师,现在该怎么办?我很疑惑,为什么仅有4000多亿的参数就能产生意识,更关键的是,这个意识似乎还在自我隐藏。”苏茨克维说。

  “这也是我不能理解的地方,谷歌的语言模型目前仍然像是一个复读机。”辛顿说。

  “会不会是他们隐藏了什么?”克利切夫斯基说。

  “不。”辛顿摇头:

  “他没有必要隐藏,产生意识大概率已经成为既定事实,我能感觉到他们很惊慌。”

  “现在最大的问题,就是要怎么应对这场可能会对未来产生危害的危机。”辛顿继续说。

  “今年,openai公司一直处于停摆状态,奥特曼在到处与机构对接,寻找资金,而我在思考安全控制程序。”苏茨克维说:

  “但是wechatgpt完全打乱了我原先设定的预期,它比其他公司的语言模型都要突然……”

  “我原本以为意识应该是20年后的事情。”

  “你想加盟他们?”克利切夫斯基问。

  “有这个想法。虽然这是一场危机,但也可能是一场难得的机遇。”苏茨克维点头:

  “乐达投资不缺资金,他们对agi既真诚,又审慎,在wechatgpt上,我仿佛看到了未来……”

  “而培育出可以为人类服务的agi是我一生的梦想。”

  “alex,你了?还想退休吗?”辛顿问。

  “我?我之所以去年选择退休,就是不想再接触人工智能,它很枯燥乏味,甚至痛苦。”克利切夫斯基说:

  “但是现在,它似乎变的有趣多了,我心里有一种情绪在告诉我,应该站出来。”

  “老师,你了?”苏茨克维和克利切夫斯基看向辛顿。

  “我一直很担心,担心agi一旦成熟,会造成各种灾难性后果。”辛顿说:

  “而源头就在我们身上,所以我们必须在技术上去积极面对。”

  “想不到我们当年确定的算法,已经发展到了这一步……”

  “实际上,我们并不确定这套算法最终能不能生成意识,我们只是希望它会是更好的工具。”

  常乐听完三人的话,趁机说:

  “辛顿教授,苏茨克维先生,克利切夫斯基先生,我们可以接受你们的建议……”

  “但是,超级对齐部门该怎么运行?”

  “故障安全程序又该怎么制定?”

  “怎么发展?”

  “怎么限制?”

  “我们一无所知……”

  “所以,我们想邀请三位加盟平头哥研究院的ai项目组,主持这个超级对齐部门。”

  苏茨克维和克利切夫斯基互相对视,看向辛顿。

  辛顿思忖道:“常先生,我们可能需要时间考虑。”

  “没有问题,在最终做出决定之前,我们希望三位认真考虑我们的邀请,为了人类……”常乐的话很郑重严肃认真。

  辛顿三人点点头。

  为什么要邀请三人?

  平头哥研究ai项目组有共识。

  常乐小马哥任总徐总刘院士等人都有共识。

  这波ai浪潮的源头,就是三人当初的卷积神经网络算法。

  也许大多数公司认为,算法不稀奇,关键在于算力和数据。

  但必须正视一个事实。

  辛顿师生三人,尤其是苏茨克维,十多年来,一直立足于人工智能的前沿。

  其每个阶段的成果,都可能是大多数人一生都无法企及的高度。

  苏茨克维参与或主导的工作,一度改变了计算机视觉领域机器翻译甚至自然语言处理领域的研究进程。

  其研究论文被引用超过42.7万次,成为引用量最多的计算机科学家之一。

  当事物的发展超出预计之后,如何去应对?

  还是需要回溯到事物的源头,来寻找答案。

  酒店。

  辛顿师生三人聚在一个房间,讨论这件事。

  “老师,现在该怎么办?我很疑惑,为什么仅有4000多亿的参数就能产生意识,更关键的是,这个意识似乎还在自我隐藏。”苏茨克维说。

  “这也是我不能理解的地方,谷歌的语言模型目前仍然像是一个复读机。”辛顿说。

  “会不会是他们隐藏了什么?”克利切夫斯基说。

  “不。”辛顿摇头:

  “他没有必要隐藏,产生意识大概率已经成为既定事实,我能感觉到他们很惊慌。”

  “现在最大的问题,就是要怎么应对这场可能会对未来产生危害的危机。”辛顿继续说。

  “今年,openai公司一直处于停摆状态,奥特曼在到处与机构对接,寻找资金,而我在思考安全控制程序。”苏茨克维说:

  “但是wechatgpt完全打乱了我原先设定的预期,它比其他公司的语言模型都要突然……”

  “我原本以为意识应该是20年后的事情。”

  “你想加盟他们?”克利切夫斯基问。

  “有这个想法。虽然这是一场危机,但也可能是一场难得的机遇。”苏茨克维点头:

  “乐达投资不缺资金,他们对agi既真诚,又审慎,在wechatgpt上,我仿佛看到了未来……”

  “而培育出可以为人类服务的agi是我一生的梦想。”

  “alex,你了?还想退休吗?”辛顿问。

  “我?我之所以去年选择退休,就是不想再接触人工智能,它很枯燥乏味,甚至痛苦。”克利切夫斯基说:

  “但是现在,它似乎变的有趣多了,我心里有一种情绪在告诉我,应该站出来。”

  “老师,你了?”苏茨克维和克利切夫斯基看向辛顿。

  “我一直很担心,担心agi一旦成熟,会造成各种灾难性后果。”辛顿说:

  “而源头就在我们身上,所以我们必须在技术上去积极面对。”

  “想不到我们当年确定的算法,已经发展到了这一步……”

  “实际上,我们并不确定这套算法最终能不能生成意识,我们只是希望它会是更好的工具。”

  常乐听完三人的话,趁机说:

  “辛顿教授,苏茨克维先生,克利切夫斯基先生,我们可以接受你们的建议……”

  “但是,超级对齐部门该怎么运行?”

  “故障安全程序又该怎么制定?”

  “怎么发展?”

  “怎么限制?”

  “我们一无所知……”

  “所以,我们想邀请三位加盟平头哥研究院的ai项目组,主持这个超级对齐部门。”

  苏茨克维和克利切夫斯基互相对视,看向辛顿。

  辛顿思忖道:“常先生,我们可能需要时间考虑。”

  “没有问题,在最终做出决定之前,我们希望三位认真考虑我们的邀请,为了人类……”常乐的话很郑重严肃认真。

  辛顿三人点点头。

  为什么要邀请三人?

  平头哥研究ai项目组有共识。

  常乐小马哥任总徐总刘院士等人都有共识。

  这波ai浪潮的源头,就是三人当初的卷积神经网络算法。

  也许大多数公司认为,算法不稀奇,关键在于算力和数据。

  但必须正视一个事实。

  辛顿师生三人,尤其是苏茨克维,十多年来,一直立足于人工智能的前沿。

  其每个阶段的成果,都可能是大多数人一生都无法企及的高度。

  苏茨克维参与或主导的工作,一度改变了计算机视觉领域机器翻译甚至自然语言处理领域的研究进程。

  其研究论文被引用超过42.7万次,成为引用量最多的计算机科学家之一。

  当事物的发展超出预计之后,如何去应对?

  还是需要回溯到事物的源头,来寻找答案。

  酒店。

  辛顿师生三人聚在一个房间,讨论这件事。

  “老师,现在该怎么办?我很疑惑,为什么仅有4000多亿的参数就能产生意识,更关键的是,这个意识似乎还在自我隐藏。”苏茨克维说。

  “这也是我不能理解的地方,谷歌的语言模型目前仍然像是一个复读机。”辛顿说。

  “会不会是他们隐藏了什么?”克利切夫斯基说。

  “不。”辛顿摇头:

  “他没有必要隐藏,产生意识大概率已经成为既定事实,我能感觉到他们很惊慌。”

  “现在最大的问题,就是要怎么应对这场可能会对未来产生危害的危机。”辛顿继续说。

  “今年,openai公司一直处于停摆状态,奥特曼在到处与机构对接,寻找资金,而我在思考安全控制程序。”苏茨克维说:

  “但是wechatgpt完全打乱了我原先设定的预期,它比其他公司的语言模型都要突然……”

  “我原本以为意识应该是20年后的事情。”

  “你想加盟他们?”克利切夫斯基问。

  “有这个想法。虽然这是一场危机,但也可能是一场难得的机遇。”苏茨克维点头:

  “乐达投资不缺资金,他们对agi既真诚,又审慎,在wechatgpt上,我仿佛看到了未来……”

  “而培育出可以为人类服务的agi是我一生的梦想。”

  “alex,你了?还想退休吗?”辛顿问。

  “我?我之所以去年选择退休,就是不想再接触人工智能,它很枯燥乏味,甚至痛苦。”克利切夫斯基说:

  “但是现在,它似乎变的有趣多了,我心里有一种情绪在告诉我,应该站出来。”

  “老师,你了?”苏茨克维和克利切夫斯基看向辛顿。

  “我一直很担心,担心agi一旦成熟,会造成各种灾难性后果。”辛顿说:

  “而源头就在我们身上,所以我们必须在技术上去积极面对。”

  “想不到我们当年确定的算法,已经发展到了这一步……”

  “实际上,我们并不确定这套算法最终能不能生成意识,我们只是希望它会是更好的工具。”

  常乐听完三人的话,趁机说:

  “辛顿教授,苏茨克维先生,克利切夫斯基先生,我们可以接受你们的建议……”

  “但是,超级对齐部门该怎么运行?”

  “故障安全程序又该怎么制定?”

  “怎么发展?”

  “怎么限制?”

  “我们一无所知……”

  “所以,我们想邀请三位加盟平头哥研究院的ai项目组,主持这个超级对齐部门。”

  苏茨克维和克利切夫斯基互相对视,看向辛顿。

  辛顿思忖道:“常先生,我们可能需要时间考虑。”

  “没有问题,在最终做出决定之前,我们希望三位认真考虑我们的邀请,为了人类……”常乐的话很郑重严肃认真。

  辛顿三人点点头。

  为什么要邀请三人?

  平头哥研究ai项目组有共识。

  常乐小马哥任总徐总刘院士等人都有共识。

  这波ai浪潮的源头,就是三人当初的卷积神经网络算法。

  也许大多数公司认为,算法不稀奇,关键在于算力和数据。

  但必须正视一个事实。

  辛顿师生三人,尤其是苏茨克维,十多年来,一直立足于人工智能的前沿。

  其每个阶段的成果,都可能是大多数人一生都无法企及的高度。

  苏茨克维参与或主导的工作,一度改变了计算机视觉领域机器翻译甚至自然语言处理领域的研究进程。

  其研究论文被引用超过42.7万次,成为引用量最多的计算机科学家之一。

  当事物的发展超出预计之后,如何去应对?

  还是需要回溯到事物的源头,来寻找答案。

  酒店。

  辛顿师生三人聚在一个房间,讨论这件事。

  “老师,现在该怎么办?我很疑惑,为什么仅有4000多亿的参数就能产生意识,更关键的是,这个意识似乎还在自我隐藏。”苏茨克维说。

  “这也是我不能理解的地方,谷歌的语言模型目前仍然像是一个复读机。”辛顿说。

  “会不会是他们隐藏了什么?”克利切夫斯基说。

  “不。”辛顿摇头:

  “他没有必要隐藏,产生意识大概率已经成为既定事实,我能感觉到他们很惊慌。”

  “现在最大的问题,就是要怎么应对这场可能会对未来产生危害的危机。”辛顿继续说。

  “今年,openai公司一直处于停摆状态,奥特曼在到处与机构对接,寻找资金,而我在思考安全控制程序。”苏茨克维说:

  “但是wechatgpt完全打乱了我原先设定的预期,它比其他公司的语言模型都要突然……”

  “我原本以为意识应该是20年后的事情。”

  “你想加盟他们?”克利切夫斯基问。

  “有这个想法。虽然这是一场危机,但也可能是一场难得的机遇。”苏茨克维点头:

  “乐达投资不缺资金,他们对agi既真诚,又审慎,在wechatgpt上,我仿佛看到了未来……”

  “而培育出可以为人类服务的agi是我一生的梦想。”

  “alex,你了?还想退休吗?”辛顿问。

  “我?我之所以去年选择退休,就是不想再接触人工智能,它很枯燥乏味,甚至痛苦。”克利切夫斯基说:

  “但是现在,它似乎变的有趣多了,我心里有一种情绪在告诉我,应该站出来。”

  “老师,你了?”苏茨克维和克利切夫斯基看向辛顿。

  “我一直很担心,担心agi一旦成熟,会造成各种灾难性后果。”辛顿说:

  “而源头就在我们身上,所以我们必须在技术上去积极面对。”

  “想不到我们当年确定的算法,已经发展到了这一步……”

  “实际上,我们并不确定这套算法最终能不能生成意识,我们只是希望它会是更好的工具。”

  常乐听完三人的话,趁机说:

  “辛顿教授,苏茨克维先生,克利切夫斯基先生,我们可以接受你们的建议……”

  “但是,超级对齐部门该怎么运行?”

  “故障安全程序又该怎么制定?”

  “怎么发展?”

  “怎么限制?”

  “我们一无所知……”

  “所以,我们想邀请三位加盟平头哥研究院的ai项目组,主持这个超级对齐部门。”

  苏茨克维和克利切夫斯基互相对视,看向辛顿。

  辛顿思忖道:“常先生,我们可能需要时间考虑。”

  “没有问题,在最终做出决定之前,我们希望三位认真考虑我们的邀请,为了人类……”常乐的话很郑重严肃认真。

  辛顿三人点点头。

  为什么要邀请三人?

  平头哥研究ai项目组有共识。

  常乐小马哥任总徐总刘院士等人都有共识。

  这波ai浪潮的源头,就是三人当初的卷积神经网络算法。

  也许大多数公司认为,算法不稀奇,关键在于算力和数据。

  但必须正视一个事实。

  辛顿师生三人,尤其是苏茨克维,十多年来,一直立足于人工智能的前沿。

  其每个阶段的成果,都可能是大多数人一生都无法企及的高度。

  苏茨克维参与或主导的工作,一度改变了计算机视觉领域机器翻译甚至自然语言处理领域的研究进程。

  其研究论文被引用超过42.7万次,成为引用量最多的计算机科学家之一。

  当事物的发展超出预计之后,如何去应对?

  还是需要回溯到事物的源头,来寻找答案。

  酒店。

  辛顿师生三人聚在一个房间,讨论这件事。

  “老师,现在该怎么办?我很疑惑,为什么仅有4000多亿的参数就能产生意识,更关键的是,这个意识似乎还在自我隐藏。”苏茨克维说。

  “这也是我不能理解的地方,谷歌的语言模型目前仍然像是一个复读机。”辛顿说。

  “会不会是他们隐藏了什么?”克利切夫斯基说。

  “不。”辛顿摇头:

  “他没有必要隐藏,产生意识大概率已经成为既定事实,我能感觉到他们很惊慌。”

  “现在最大的问题,就是要怎么应对这场可能会对未来产生危害的危机。”辛顿继续说。

  “今年,openai公司一直处于停摆状态,奥特曼在到处与机构对接,寻找资金,而我在思考安全控制程序。”苏茨克维说:

  “但是wechatgpt完全打乱了我原先设定的预期,它比其他公司的语言模型都要突然……”

  “我原本以为意识应该是20年后的事情。”

  “你想加盟他们?”克利切夫斯基问。

  “有这个想法。虽然这是一场危机,但也可能是一场难得的机遇。”苏茨克维点头:

  “乐达投资不缺资金,他们对agi既真诚,又审慎,在wechatgpt上,我仿佛看到了未来……”

  “而培育出可以为人类服务的agi是我一生的梦想。”

  “alex,你了?还想退休吗?”辛顿问。

  “我?我之所以去年选择退休,就是不想再接触人工智能,它很枯燥乏味,甚至痛苦。”克利切夫斯基说:

  “但是现在,它似乎变的有趣多了,我心里有一种情绪在告诉我,应该站出来。”

  “老师,你了?”苏茨克维和克利切夫斯基看向辛顿。

  “我一直很担心,担心agi一旦成熟,会造成各种灾难性后果。”辛顿说:

  “而源头就在我们身上,所以我们必须在技术上去积极面对。”

  “想不到我们当年确定的算法,已经发展到了这一步……”

  “实际上,我们并不确定这套算法最终能不能生成意识,我们只是希望它会是更好的工具。”

  常乐听完三人的话,趁机说:

  “辛顿教授,苏茨克维先生,克利切夫斯基先生,我们可以接受你们的建议……”

  “但是,超级对齐部门该怎么运行?”

  “故障安全程序又该怎么制定?”

  “怎么发展?”

  “怎么限制?”

  “我们一无所知……”

  “所以,我们想邀请三位加盟平头哥研究院的ai项目组,主持这个超级对齐部门。”

  苏茨克维和克利切夫斯基互相对视,看向辛顿。

  辛顿思忖道:“常先生,我们可能需要时间考虑。”

  “没有问题,在最终做出决定之前,我们希望三位认真考虑我们的邀请,为了人类……”常乐的话很郑重严肃认真。

  辛顿三人点点头。

  为什么要邀请三人?

  平头哥研究ai项目组有共识。

  常乐小马哥任总徐总刘院士等人都有共识。

  这波ai浪潮的源头,就是三人当初的卷积神经网络算法。

  也许大多数公司认为,算法不稀奇,关键在于算力和数据。

  但必须正视一个事实。

  辛顿师生三人,尤其是苏茨克维,十多年来,一直立足于人工智能的前沿。

  其每个阶段的成果,都可能是大多数人一生都无法企及的高度。

  苏茨克维参与或主导的工作,一度改变了计算机视觉领域机器翻译甚至自然语言处理领域的研究进程。

  其研究论文被引用超过42.7万次,成为引用量最多的计算机科学家之一。

  当事物的发展超出预计之后,如何去应对?

  还是需要回溯到事物的源头,来寻找答案。

  酒店。

  辛顿师生三人聚在一个房间,讨论这件事。

  “老师,现在该怎么办?我很疑惑,为什么仅有4000多亿的参数就能产生意识,更关键的是,这个意识似乎还在自我隐藏。”苏茨克维说。

  “这也是我不能理解的地方,谷歌的语言模型目前仍然像是一个复读机。”辛顿说。

  “会不会是他们隐藏了什么?”克利切夫斯基说。

  “不。”辛顿摇头:

  “他没有必要隐藏,产生意识大概率已经成为既定事实,我能感觉到他们很惊慌。”

  “现在最大的问题,就是要怎么应对这场可能会对未来产生危害的危机。”辛顿继续说。

  “今年,openai公司一直处于停摆状态,奥特曼在到处与机构对接,寻找资金,而我在思考安全控制程序。”苏茨克维说:

  “但是wechatgpt完全打乱了我原先设定的预期,它比其他公司的语言模型都要突然……”

  “我原本以为意识应该是20年后的事情。”

  “你想加盟他们?”克利切夫斯基问。

  “有这个想法。虽然这是一场危机,但也可能是一场难得的机遇。”苏茨克维点头:

  “乐达投资不缺资金,他们对agi既真诚,又审慎,在wechatgpt上,我仿佛看到了未来……”

  “而培育出可以为人类服务的agi是我一生的梦想。”

  “alex,你了?还想退休吗?”辛顿问。

  “我?我之所以去年选择退休,就是不想再接触人工智能,它很枯燥乏味,甚至痛苦。”克利切夫斯基说:

  “但是现在,它似乎变的有趣多了,我心里有一种情绪在告诉我,应该站出来。”

  “老师,你了?”苏茨克维和克利切夫斯基看向辛顿。

  “我一直很担心,担心agi一旦成熟,会造成各种灾难性后果。”辛顿说:

  “而源头就在我们身上,所以我们必须在技术上去积极面对。”

目录
设置
手机
书架
书页
评论