“通用人为智能”（AGI）近两年受到了普及体贴和热议。近期圣塔菲探索所学者、波特兰州立大学计划机科学教导 Melanie Mitchell 正在Science 杂志上公布 Expert Voices 著作“Debates on the nature of artificial general intelligence”，再一次把题目导向了对智能的界说题目。这篇著作包罗了很多反思，反响了此刻大片面人对AGI的看法，然而此中也有很多主见有待商榷。为了更好地体会这篇著作，集智俱笑部「AGI念书会」首倡人、天普大学通用人为智能对象博士生徐博文将其翻译成中文，附上英文原稿供参照，同时也撰写了简短的评论，愿望能为AGI的协商供给更宽大的视角。

　　近期公布的这篇著作 (Mitchell, 2024) 中罗列和比拟了AI和其他范围（比方认知科学）的主流音响对AGI的体会。正在这篇回应中，我将考试澄清少少曲解，并回应作家提出的诘难。

　　少少著名的公司（比方OpenAI、DeepMind）或者探索者对AGI的体会

　　基于一个对智能的界说（“智能及其相干本事能够被体会是为赏赐最大化效劳的”），揣测AGI极其危机，由于它或许会“最优化”一个与人类“过错齐”的标的南宫官网入口。

　　生物智能是与物理身体的履历高度相干的，于是智能不行正在机械中达成（这一主见否认了超等智能的或许性）

　　实在智能，大多对AGI有良多体会，而且咱们依然缺乏一个清爽、苛厉的AGI界说。但这不虞味着“AGI”这个词语的寄义齐备不明确。由于少少汗青由来，大片面AI探索者体贴于特定范围或题方针专用体系，而“通用”则是夸大了“范围无合”的属性（即“通用方针”），阻拦当时的主流范式。于是“通用智能”包罗了“通用方针”的笑趣 (Wang & Goertzel, 2007) 。我以为大片面AGI探索者城市应允，AGI不等同于超等智能。

　　第二点中对智能的界说很容易误导人以为AGI体系是要探索单个标的。凭据很多长远以后AGI范围的现有做事（比方(Wang & Goertzel, 2012)中提到的，这些做事和著作中罗列的比拟不那么“着名”），一个AGI体系该当有多个未预先确定的标的，而且标的的寄义是从境况中习得的。标的之间或许彼此冲突，而且达成标的的资源是受限的。人相同有这些桎梏。从这个意思上说，AGI体系并一直对导致人类袪除，而文中提到的思思试验（比方“回形针AI”）不对用于AGI。值得一提，正在最最先的岁月AGI学者就仍然回应了“AGI异常危机”这一潜正在的贰言（见(Wang & Goertzel, 2007)的3.8节）。

　　个人的本事确实是具身化的（即与物理身体高度相干）。然而，具身的履历与AGI体系的“通用方针”并不冲突， 由于“尽管AGI体系依赖于特定范围的常识来处理特定范围的题目，它的举座常识执掌和练习机造或许依然是通用的。合头的一点是，一个通用智能[体系]务必……学会担任它以前从未碰到过的新范围”（ (Wang & Goertzel, 2007) 的3.2节对“AGI基础不存正在”这一贰言的回应）。原形上，很多AGI探索者早仍然认识到，“智能”是从分别智能体系身上笼统出来的，比方人类智能、动物智能、群体智能，以至或许存正在的表星人智能，而笼统就得故意地大意生物细节。

　　我齐备应允咱们须要一个智能的表面。我也正正在考试给AGI下一个正式的界说，须要单唯一篇论文才或许明确AGI是什么笑趣（这根基是个玄常识题）。

　　“通用人为智能”（artificial general intelligence，AGI）一词正在此刻合于人为智能（AI）的协商中仍然无处不正在。OpenAI吐露，其工作是“确保通用人为智能造福全人类”。DeepMind的公司愿景中夸大“通用人为智能有或许饱励的是汗青上最伟大改良之一” 。正在英国当局的《国度人为智能战术》和美国当局的人为智能文献中，AGI也都被提及南宫官网入口梅拉妮·米休尔Science刊文：“通用人为智能”本色之辩。微软的探索职员比来声称正在大型发言模子GPT-4中有“”的证据，现任和前任谷歌高管扬言“AGI仍然映现了”。合于GPT-4是否是“AGI算法”的题目是马斯克（Elon Musk）与OpenAI讼事中的中枢题目。

　　人们或许会误以为这个术语的寄义仍然确立并取得了一概应允，但不行由于这一曲解而受到训斥，终究“AGI”一词正在贸易、当局和媒体中被普及利用。然而原形却是，AGI是什么笑趣，或者它是否有清爽的寄义，这正在AI社区里向来存正在激烈的争执。AGI的寄义和或许的后果仍然不单仅是一个“奇妙”术语的学术斟酌。全国上最大的科技公司和通盘当局都正在凭据他们以为AGI将带来什么来做出主要决定。但若深刻探索合于AGI的各式揣测，就会发觉，很多人为智能从业者对“智能之实质”的观点与那些探索人类和动物认知的人判然分别——这种区别看待体会机械智能的近况和预测或许的他日很主要。

　　人为智能范围的最初标的是让机用拥有与人类半斤八两的“通用智能”。早期的AI前驱很笑观：1965年，司马赫（Herbert Simon）正在他的《人与执掌的自愿化状态》（The Shape of Automation for Men and Management）一书中预测，“20年内，机械将有本事做任何人类能做的做事。”1970年的《性命》（Life）杂志援用了明斯基（Marvin Minsky）的线年内，咱们将具有一台拥有平常人通用智能的机械。我的笑趣是，一台也许阅读莎士比亚、给汽车加油、办公室里搞幼圈子南宫官网入口、讲笑话、斗殴的机械。”

　　这些笑观的预测并没有成为实际。正在接下来的几十年里，胜利的AI体系惟有专用的没有通用的——它们只可履行简单职责或有限边界的职责（比方，手机上的语音识别软件能够转录你的口述，但不行智能地做出回应）。“AGI”一词是正在21世纪首创设的，旨正在承AI前驱之遗志，以求克复对“考试独立于特定范围来探索和创设智能这个团结体”的体贴。

　　这种探索向来处正在人为智能范围的一个不起眼的角落，直到比来，当全国当先的人为智能公司将达成AGI确立为他们的苛重标的，并指出，人为智能“末日论者”公告AGI的存在威迫是他们的头号战抖。很多人为智能从业者揣度了AGI的他日时辉煌，比方，有人预测，“到2028年，咱们有50%的几率达成AGI。”其他人则质疑AGI的条件假设，称其含混且界说不清；一位知名的探索者正在推特上写道：“这全部观念就不科学，人们以至该当为利用这个词觉得侮辱。”

　　即使早期的AGI援手者以为，机械很疾就会经受通盘人类勾当，但探索者们仍然看法到，创修能正在国际象棋中取胜或能答复题方针人为智能体系，比成立一个能叠衣服或修缮管道的机械人要容易得多。AGI的界说相应地调理为只席卷所谓的“认知职责”。DeepMind拉拢创始人哈萨比斯（Demis Hassabis）将AGI界说为“该当也许完工人类能够完工的险些通盘认知职责”的体系，而OpenAI将其刻画为“正在大大批有经济代价的做事中超越人类的、高度自立的体系”，此中“大大批”消除了须要物理智能的职责，这些职责或许短时光内机械人无法完工。

　　正在人为智能中，“智能”（或者叫认知，亦或其它词语）的观念时时是凭据智能体个人“最优化”赏赐或标的来构修的。一篇有影响力的论文将通用智能界说为“一个主体正在普及的境况中达成标的的本事”；另一种说法是，“智能及其相干本事能够被体会为是赏赐最大化效劳的。”原形上，这便是当今人为智能的做事方法——比方，计划机措施AlphaGo被锻炼来优化特定的赏赐函数（“博得角逐”），GPT-4被锻炼来优化另一种赏赐函数（“预测短语中的下一个词”）。

　　这种对智能的观点激励了少少AI探索者的另一种揣测：一朝AI体系抵达了AGI，它将通过将其优化本事操纵于本身的软件，“递归地”进步本身的智能，并连忙变得“比咱们灵活千百万倍”，从而连忙达成超等智能。

　　这种对优化的体贴导致AI社区中的少少人忧郁，“（代价观）不（与人类）对齐的”AGI或许会紧张偏离其创设者的标的，从而给人类带来存在危急。玄学家博斯特罗姆（Nick Bostrom）正在2014年出书的《超等智能》（Superintelligence）一书中提出了一个当今很著名的思思试验：他遐思人类给一个超等智能的人为智能体系设定标的，即优化回形针的分娩。依照这个标的的字面笑趣，人为智能体系会使用它的天资来管造地球上通盘的资源，并把通盘的东西都形成回形针。当然，人类并担心排袪除地球和人类来成立更多的回形针，但他们正在指令中大意了这一点。人为智能探索者 Yoshua Bengio 也提了个思思试验：“咱们能够让人为智能处理天色变革题目，它或许司帐划出一种病毒南宫官网入口，杀死洪量生齿，由于咱们的指令中‘妨害’二字的寄义不足明确，而人类本质上是处理天色危境的苛重膺惩南宫官网入口。”

　　这种对AGI（和“超等智能”）的揣度性主见与探索生物智能（越发是人类认知）的人持有的主见分别。即使认知科学对“通用智能”没有庄敬的界说，就人类或任何类型的体系能够具有“通用智能”的水准而言也没有共鸣，但大大批认知科学家城市应允，智能不是能够正在简单目标上器量和任性调理的量，而是通用和特定本事的丰富整合，这些本事大片面是适宜特定存在境况的。

　　很多探索生物智能的人也疑忌，智能的所谓“认知”方面能否从其他方面中孤独分袂出来，并正在一个脱节（人类）身体的（disembodied）机械中重现。心思学家仍然解释，人类智力的主要方面是修树正在一部分具身的肉体和情绪履历的本原上的。证据还解释，个人智力深受其正在社会和文明境况中的加入所影响。与部分的“优化本事”比拟，体会他人、与他人合营和向他人练习的本事或许对一部分胜利达成标的更为主要。

　　其余，与设思的“回形针最大化”AI分别，人类的智能并不以优化固定标的为核心；相反，一部分的标的是通过“天赋需求”和“撑持其智能的社会文明境况”的丰富交融而成。与《超等智能》的“回形针最大化”AI分别，智能的扩张刚巧使咱们也许更好地洞察他人的图谋，以及咱们本技艺脚的或许影响、据此删改这些手脚。正如玄学家格蕾丝（Katja Grace）所写的那样，“看待险些任何人类标的来说，把造胜宇宙行动次要环节的思法都是齐备好笑的。那么为什么咱们以为人为智能的标的是分另表呢？”

　　机械刷新本身的“软件”，以进步其智能的量级，这种“机械幽魂”也偏离了智能的生物学主见，即智能是一个高度丰富的“体系”，而不单限于大脑内部。假若人类水准的智能须要分别认知本事的丰富交融，以及社会和文明的援手，那么很或许体系的“智能”目标将无法无缝访谒“软件”目标，就像咱们人类无法轻松地计划咱们的大脑（或咱们的基因）让本身变得更灵活相同。然而，行动一个群体，咱们通过表部东西（如计划机）和修树文明机构（如学校、藏书楼和互联网）进步了咱们的本质智能。

　　AGI是什么笑趣以及它是否是一个寄义明了的观念仍正在争执中。其余，合于AGI机械能做什么的揣测苛重是基于直觉，而不是科学证据。但这种直觉能正在多大水准上可托呢？AI的汗青再三打倒了咱们对智能的直觉。很多早期的AI前驱以为，通过逻辑编程的机械将担任人类一起灵巧。其他学者预测，要让一台机械正在国际象棋上打败人类，或者正在分别发言之间举行翻译，或者举行对话，须要它拥有通用的、人类水准的智能，但原形注明这是纰谬的。正在AI演进中的每一步，人类水准的智能都比探索职员预期的要丰富得多。目前合于机械智能的揣测也会被注明是纰谬的吗？咱们能否兴盛出一门更苛谨、更寻常性的智能科学来答复这些题目？

　　目前尚不明确AI的科学是更像人类智能的科学，仍然更像表太空生物科学（即预测其他星球上的性命或许是什么样式）。对从未见过以至或许不存正在的东西举行预测，无论是表星性命仍然超等智能机械，都须要基于寻常道理的表面。最终，“AGI”的寄义和后果不会通过媒体斟酌、讼事或咱们的直觉和揣测来晓得，而是须要对这些道理的长远科学探索。