“ai教父”辛顿：ai将操控人类

李文卓 2024-03-23 04:27 503

"“ai教父”辛顿：ai将操控人类,这篇新闻报道详尽，内容丰富，非常值得一读。这篇报道的内容很有深度，让人看了之后有很多的感悟。作者对于这个话题做了深入的调查和研究，呈现了很多有价值的信息。这篇报道的观点独到，让人眼前一亮。新闻的写作风格流畅，文笔优秀，让人容易理解。 " 账号设置我的关注我的收藏申请的报道退出登录登录搜索36氪Auto数字时氪将来消费智能涌现将来城市启动Power on36氪出海36氪研究院潮生TIDE36氪企服点评36氪财经(Finance)职场bonus36碳后浪研究所暗涌Waves硬氪媒体品牌企业号企服点评36Kr研究院36Kr创新咨询企业服务核心服务城市之窗行政部门服务创投发布LP源计划VClubVClub投资机构库投资机构职位推介投资人认证投资人服务寻求报道36氪Pro创投氪堂企业入驻创业者服务创投平台首页快讯资讯推荐财经(Finance)科技(Technology)创新城市最新创投汽车(Car)企服专精特新直播视频专题活动搜索寻求报道我要入驻城市合作“AI教父”辛顿：AI将操控人类日经中文网·2024-03-22 11:20关注“将来10年内将出现自主杀死人类的机器人武器”

被誉为“AI教父”的多伦多大学(University)名誉教授杰弗里·辛顿接受采访时谈及AI的威胁。他说：“很多人主张，要防止AI失控，只要关掉电源开关就可以。但超越人类智慧的AI可以用语言操纵我们(We)”，他预测：“将来10年内将出现自主杀死人类的机器人武器”……

人工智能(AI)正在以惊人的速度持续进步。当AI在所有领域都超越人类智慧的时代到来之时，世界将会发生怎样的变化呢？被誉为“AI教父”的多伦多大学(University)名誉教授杰弗里·辛顿（Geoffrey Hinton）在加拿大的家中接受了日本(Japan)经济(Economy)新闻(News)（中文版：日经中文网）的采访，讲述了AI和人类的将来。

杰弗里·辛顿奠定了作为目前(Currently)AI核心技术的“深度学习”的基础。2023年，他突然从已工作10多年的米国谷歌辞职，开始谈论AI的威胁。

记者：您一度担任AI研发的重要职务却最终离开谷歌，原因是什么？

辛顿：这是因为我希望(Hope)离职后自由地传播自己相信的东西。我在2023年4月与作为上司的首席科学家杰夫·迪恩（Jeff Dean）交谈。我提出了AI有可能带来事关人类生存危机的看法。

他有意挽留我说：“留在谷歌研究AI的安危对策怎么样？”。我非常尊敬他，但拒绝了提议。即使不会被明确限制，如果身为谷歌的一员，讲话时也不得不考虑到公司的利益。

记者：您为什么认为AI有可能威胁人类？

辛顿：这是因为如果给AI设定目标，作为解决对策，它可能会找出对人类不利的方法。比方说，假设向AI下达遏制气候变化的指令。AI会意识到为了达到目的而有必要将人类清除，我担心真的会付诸实施的风险。

今后还可能会出现不同的AI相互竞争的局面。例如，如果AI之间发生数据中心等资源的争夺，这将是一个像生物体一样推动进化的过程。面对通过竞争变得更聪明的AI，我们(We)人类将落在后面。

很多人主张，要防止AI失控，只要关掉电源开关就可以。但超越人类智慧的AI可以用语言操纵我们(We)。可能许会试图说服我们(We)不要关掉开关。

记者：您的学生(Students)、米国OpenAI公司联合创始人伊尔亚·苏茨克维（Ilya Sutskever）在2023年11月曾试图解雇该公司首席执行官(CEO) 山姆·奥特曼（Sam Altman），但以失败(Failure)告终。据报道，其动机仍然是认为AI对人类构成威胁这一危机感。

辛顿：伊尔亚非常担心AI的危险性。OpenAI是重视AI安危性的非盈利组织，但采用了管理盈利企业的结构。从这次的事件看出，甚至是这样的组织，比安危性，会更优先AI创造的利益。

以前我们(We)都认为数字的智能不会像人类那么优秀，理解语言和复杂的东西可能将是很久之后的事情。伊尔亚率先改变了看法，但我并没有马上同意。现在我觉得他是对的。

记者：联合国针对先进AI被转用于军事(Military)作出了着眼于限制的紧急应对的决议。

辛顿：我认为将来10年内将出现自主杀死人类的机器人武器。在第一次世界大战中造成悲剧的化学武器被后来的世界协议所禁止。机器人武器可能许迟早也会被限制。但是，这可能要等到真正在战场上被使用、人类认识到会带来多么悲惨的结局后才能达成。

我们(We)谁也不希望(Hope)看到被AI支配的将来。这一事实将成为各国在迈向AI武器限制的过程中保持一致步调的基础。就像核战争一样。这显然对所有我国都有危害，所以米国和前苏联才能在冷战期间就避免核战争达成协议。

杰弗里·辛顿因为对人的大脑产生兴趣，在大学(University)本科期间攻读了实验心理学。由于这些经验，他为模仿人类大脑神经回路的机制的AI研发方法找到了可能性。

记者：OpenAI开发的“ChatGPT”等对话式AI能理解人类的语言吗？

辛顿：我认为作为生成式AI基础的大语言模型能像我们(We)一样理解语言。我在1985年建立了第一个语言模型。在模仿大脑如何理解语言的基础上进行(Carry Out)设计。大多数声称AI不懂语言的人并不掌握人类是如何理解语言的理论。

接受采访的杰弗里·辛顿（Geoffrey Hinton，田中克佳摄）

记者：记得您以前好像说过“即使AI表面上看起来能理解语言，但实际上并不理解”。

辛顿：我一直把AI能不能理解笑话作为判断的标准。2022年，让使用谷歌开发的大语言模型“PaLM”的聊天机器人(自动应答系统)解释几个笑话。聊天机器人能够理解为什么笑话很有趣，并全部成功(Success)作出解释。

记者：通过AI的研究，对人类的理解是否也发生了变化？

辛顿：由于模仿大脑的智能可以人为创造出来，因此有很多发现。有些哲学家认为人类天生就具有使用语言的功能，这完全是无稽之谈。我们(We)认为语言是出生后经过学习的后天(The Day After Tomorrow)产物。

50年来，我一直为了让AI更接近人类大脑而不断推进开发。这是因为我相信大脑在功能上更优越。但在2023年，我改变了想法。

人类分享知识需要很长时间，我们(We)无法逃脱死亡。另一方面，在数字世界里，将一切内容都分为“0”和“1”加以记录。不依赖于特定的硬件，可以瞬间复制数据并运行完全相同的程序。

现在的对话式AI以人类大脑100分之1的规模而拥有数千倍的知识。大语言模型与人脑相比能够更高效地学习。

记者：AI是否不仅拥有智能，还将拥有感觉？

辛顿：如果从主观经验这一角度进行(Carry Out)说明，我认为AI可以拥有和人类一样的感觉。

人类也会经历与客观事实不符的事件。例如我喝了很多酒，早上(Morning)醒来时，眼前因为幻觉而出现了粉红色的小象。我不会相信小象的存在，而是会认为自己的感知系统没有正常工作，因此这只是内在的体验。

通过照相机收集视觉信息的AI也可以产生同样的情况。例如，将物体放在相机前，用棱镜使光线弯曲，形成产生物体在远处的错觉。如果对话式AI解释称感知系统因为棱镜而不能正常工作，那么我们(We)就可以说它有着和人类一样的感觉。

记者：与您共同获得“图灵奖”的米国纽约大学(University)教授杨立昆（Yann LeCun）否认了AI具有意识可能感觉的可能性。

辛顿：他至今仍是我的朋友(Friend)，但我们(We)有不同的意见。也许他认为AI没有主观经验。很多人认为主观经验是人类固有的，AI并不理解世界。这是个错误。

杰弗里·辛顿（Geoffrey Hinton）

曾在英国(Britain)剑桥大学(University)攻读实验心理学，1978年在英国(Britain)爱丁堡大学(University)获得AI博士学位。在约半个世纪的时间里，他引领着世界AI研究，很多学生(Students)参与开发最尖端的生成式AI。曾于2013年至2023年供职米国谷歌。现年76岁。

记者采访所感：

1950年，数学家艾伦·图灵设计了一个“图灵测试”，用来判断机器是否拥有和人类一样的智能。在4年前的采访中，我曾询问辛顿，AI什么时候能听懂语言并通过测试，他提出了“可能需要50到100年”的看法。

这次我也提出了相同的问题，得到的回答是“已经快要及格了”。与上次采访时骄傲地讲述AI给社会(Society)带来的好处相比，辛顿的态度发生了明显变化。通过AI研究“人类如何思考”这一主题的头号权威改变认识的意义重大。

他并不是在预言AI会统治人类。而是在将来具有不确定的前提下，强调长期的风险。我们(We)的社会(Society)需要从正面接受并讨论(Discuss)辛顿先生敲响的警钟。

本文来自微信公众号“日经中文网”（ID：rijingzhongwenwang），作者：清水孝辅硅谷，36氪经授权发布。

该文观点仅代表作者本人，36氪平台仅提供信息存储空间服务。

+13

好文章，需要你的鼓励

日经中文网特邀作者0收藏+10评论打开微信“扫一扫”，打开网页后点击屏幕右上角分享按钮微博沉浸阅读返回顶部参与评论评论千万条，友善第一条登录后参与讨论(Discuss)提交评论0/1000你可能也喜欢这些文章有赞2023财报：达成经营性盈利，全面拥抱AI从单核到双核微软深夜首推AI PC，新AI功能戳中打工人(Worker)，月减10小时工作量Inflection创始人“跑路”，是to C做不下去吗？微软发Surface新品，新增AI功能键，率先为AI PC浪潮做好准备AI电视(Television)的风口，谁能起飞？创业没被朱啸虎劝退，前字节AI老将王长虎“闯关”祖国视频大模型大模型来了，你的“存力”攒够了吗？完蛋，我被离谱AI包围了三星的AI芯片之战：避英伟达锋芒，在边缘侧另辟蹊径最新文章推荐年营收275亿，李宁蓄力「爬坡」｜氪金 · 大事件为什么会有180万的天价车位反垄断火药桶上的苹果绿城张亚东：房地产市场今年(This Year)筑底保利置业2023年收入409亿元，同比跌0.5%美团小象超市布局华东，新鲜电商战事再起？友邦保险首现上市来营运利润负增长，代理人仍是最强支柱库克在华“救场”，苹果狂跌8000亿追马面裙的人上海 AI Lab 研究员吴志勇：Tomorrow s FRIDAY | Agent Insights

日经中文网特邀作者

作者有点忙，还没写简介

发表文章1338篇最近内容“AI教父”辛顿：AI将操控人类39分钟前日企亚洲投资：对中韩减，大增的是……昨天(Yesterday)日本(Japan)央行加息为何日元仍被抛售？2024-03-20阅读更多内容，狠戳这里下一篇有赞2023财报：达成经营性盈利，全面拥抱AI从单核到双核

调整定位，重视利润、白鸦曾说要做祖国第一批盈利的中型企业服务公司，如今他在财报中兑现了承诺。

1小时前

热门标签心理压力仙剑奇侠传大润发供应商系统赢利模式债权申报凯路仕莓兽绝地求生农机卡斯特陈天桥王微李善友龚宇羊绒鄂尔多斯鄂尔多斯集团鄂尔多斯羊绒衫诺基亚公司meego诺基亚旗舰爱情故事服务标准化剪发刘海波机器人保姆公路商店时趣航母私人定制关于36氪城市合作寻求报道我要入驻投资者关系商务合作关于我们(We)联系我们(We)加入我们(We)网站谣言信息举报入口热门推荐热门资讯热门产品文章标签快讯标签合作伙伴