近年来，跟着信息技能的高速开展，人工智能（Artificial Intelligence）成为一个热门话题。与此一起，人工愚笨（Artificial Stupidity）也进入人们的视界之中。不过，与人工智能比较，人工愚笨被议论得较少，但更应被认真对待。适度的人工愚笨能够激发人的参加热心，而脱离人的参加，再完美的计算机程序也不过是一个孤单工作的严寒机制——不管其功用多么齐备强壮，也缺少含义。假如说人工智能的潜在结果是人类智能被替代甚至被筛选的话，那么人工愚笨在某种程度上则或许为人类智能预留相对面子的未来。
现在，人工愚笨的界说还不行明晰。大体而言，人们要么会从人工智能的视点动身，把人工愚笨了解为人工智能的派生概念；要么会从人类智能的视点动身，把人工愚笨了解为人类智能或人类愚笨的直接反映和表现。
人工愚笨：人工智能的派生概念。当一些人工智能没有到达预期意图，或许虽到达预期意图但却不能根据详细情境进行自我调适，那么人们就会称其为人工愚笨。理由是：该人工智能还不行智能。在这种情况下，人工愚笨是对这些人工智能的下降性称号。根据这样的了解，人工智能开展史在某种程度上能够说是人工愚笨的开展史。迄今为止，人工智能也难以完全符合人的预期，并且人的预期又是不断改动的，从前智能的总是会跟着预期的改动变成愚笨的。比方，1997年在国际象棋人机大战中取胜的深蓝（Deep Blue），被以为是其时人工智能的代表，但假如把深蓝放到今日来看，则很难说是“智能”的。再比方，围棋程序AlphaGo的呈现，让不少人关注到机器学习领域的“深度学习”（Deep Learning），但即使是被科学家们寄予厚望的“深度学习”，也难免于“愚笨”的指控。由于，“深度学习”知道相同事物需求上百万个事例，而与之比较，人类举一反三的学习进程则更显“智能”。
人工愚笨：人类智能或人类愚笨的反映和表现。在计算机科学与技能领域，人工愚笨一般指的是一种把计算机程序“弱智化”（Dumbing Down）的技能。即人们为完结某种意图，以人工干预的方法下降计算机程序的智能程度。比方，为经过图灵测验，规划人员或许会成心在程序中植入一些缝隙或过错，让计算机在答复观察者发问时表现得更像会踌躇、犯错的人类。现在，此类技能已在各类谈天机器人身上得到广泛使用。而一些游戏公司为丰厚玩家的游戏体会，也会将此类技能运用到游戏规划中。在这种情况下，人工愚笨跟人工智能相同，是人类智能的表现。此外，还有一些过错是由于人的理性极限或疏忽大意而留在程序里的。与那些有意植入的过错比较，这类过错虽然也归于人工愚笨的领域，但却没有表现出任何人类智能，而仅仅人类愚笨的直接反映。换言之，正是人的愚笨才使得智能程序不那么智能。
有时，人们把人工智能戏称为“人工智障”，是由于计算机程序所展现出的，更多是人工愚笨而非人工智能。人工智能之所以被称为“类人的”，很大程度是由于其模仿和延伸了人类智能，但假如其一起也模仿和延伸了人类愚笨，那么会带来怎样的危险呢？对此，咱们把人工愚笨的危险扼要概括为以下三点。
1.计算机程序无法了解人类的情感和道德。比方，有软件公司推出过一款谈天机器人，它能够经过网络与人沟通，不断学习。起先，该谈天机器人声称自己酷爱国际和人类。可是，不到一天，它就被“教训”成一个脏话连篇并发布极点言辞的“恶魔”。该软件公司因而阅历了一场公关危机，不得不把谈天机器人封闭。可见，互联网虽然给人工智能的学习供给了很多数据，可是却无法为之供给辨识成见和极点思维的才能。
2.计算机程序无法完结预期使命。比方，有电动汽车发生过车主因手机客户端溃散而无法翻开车门的事情。可见，当咱们习惯于依靠智能体系时，智能体系却不只会犯错，还会失联。
3.人工愚笨技能的乱用。现在，人们已开端制作会成心犯错的机器和程序，把过错编写进程序里，使机器“弱智化”。这一方面能够使其更像人类，另一方面也提高了网络欺诈和网络进犯的危险。比方，有网络欺诈者会使用谈天机器人软件，一个人一起控制几个甚至几十个端口，在交际软件上伪装成不同身份结交谈天并进行欺诈。
虽然人工愚笨有许多危险，但假如应对妥当，也会给咱们带来不少优点。比方，类人机器人能够为孤单者供给陪同；下降计算机的智能程度能够提高人的游戏体会；在程序测验环节，人工愚笨技能还能够检测程序的容错性及其在极点条件下的运转状况。此外，人工愚笨或许还能够协助咱们了解人工智能的边界。
当时，人们对待人工智能的情绪大体可分为两类。一是人工智能要挟论，二是人工智能可控论。秉持人工智能要挟论的人往往会遭到“人类需求逃生舱”理念的驱动，以为人工智能的开展或许会给人类文明带来灾难性结果。一些人以为，经过脑机接口技能让人工智能与人类相交融，或许是应对未来危险的一个计划。该计划与超人类主义思维存在必定共识。超人类主义（Transhumanism）是20世纪中叶鼓起于欧美的一个思维门户，它建议使用技能来提高和改善人的自身条件（包含人的健康状况、智商水平、精神状况，甚至道德素质）。不过，假如咱们接受了这一计划，使用人工智能来改造人，把人机结合视作生命进化的下一个阶段，那么传统的人的观念就会遭到巨大冲击。到时，不管是有机生命仍是人自身，都需求被从头了解和界说。
人工智能可控论者以为，人工智能要挟论夸张了人工智能关于人类文明的要挟。跟着科技的开展，高效的人工智能不只会改善咱们的日子质量，还会让国际变得愈加夸姣。虽然此类观念或许过于达观，可是这种对人工智能的实用主义情绪，确实也代表了现在不少人的主意。
人工智能的要挟论与可控论之争，促进咱们考虑一个问题：人工智能有没有边界？假如有，那么应怎么了解其边界？当时，咱们正处于人工智能由“弱”变“强”的年代。人们往往不再满足于制作一些条件反射性的人工智能，而是期望能够开展出一些能学习、会考虑、能够解决问题的人工智能。在这一改变进程中，人工智能的开展确实存在失控的危险。唯有确立了人工智能的边界，人工智能才是可控的；而人工智能唯有可控，它才是智能的。
咱们要让人工智能的开展变得可控，有两条途径。一是超人类主义者所建议的，使用人工智能技能或基因技能来改造人，使人变得更强壮、更聪明；二是经过使用人工愚笨技能，把人工智能限定在一个可控的规模之内。也就是说，要么把人变得像“智能机器”相同聪明，要么把“智能机器”变得像人相同愚笨。需求留意的是，前一条途径不只需求战胜许多技能上的难题，还要承当不少道德上的危险。相较而言，凭借人工愚笨技能为人工智能建立边界，则相对保险和可行。
