News

  一名人工智能专家称，他会“获取它们的怜惜，让它们答应我这么一个有怜惜心和同理心的人存活下去。”

  专家正告称，跟着AI规划变得越来越杂乱、计算机处理器速度越来越快，它们的水平会不断进步。

  咱们知道“人非圣贤，孰能无过”，因而要研制真实安全的体系简直是天方夜谭。

  原文作者：阿兰德?辛茨（Arend Hintze），美国密歇根州立大学整合生物学&计算机科学与工程助理教授

  作为一名人工智能研讨人员，我知道很多人都对AI表明担忧。考虑到前史原因和娱乐业，有这种主意家常便饭。许多人忧虑咱们会被机器人替代，过着和《黑客帝国》相同的日子。

  但是，这些看似无辜的虚拟程序真的会在未来为非作歹吗？我很难脱离现在还在进化的计算机模型来考虑这个问题。

  我是否会像奥本海默在造出榜首枚之后谈论的那样、成为“国际的毁灭者”呢？我固然会一鸣惊人，但或许批评者们也所言不假。

  或许我不应逃避这样的问题：作为一名AI专家，我以为人工智能有什么惊骇之处呢？

  《2001太空周游》中的HAL 9000计算机便是一个绝佳的例子。它引发了许多意外成果，可见这套体系并不成功。

  在许多杂乱体系中，如NASA的太空飞船和切尔诺贝利核电站，工程师会将许多组件组合在一起。规划师们或许很清楚每个部件该怎么独自运作，但对它们一起运转的成果则知之寥寥。

  咱们或许永久都无法彻底了解这些体系的运作成果，它们的失灵办法也多种多样。从沉船到飞船爆破，再到核电站爆破，每次灾祸都由各式各样的小毛病组合而来。

  咱们将认知科学的最新研讨转变为算法，然后参加现有体系中。咱们还没有充沛了解智能或认知科学，就梦想造出人工智能。

  IBM的沃森和谷歌的Alpha等体系具有强壮的人工神经网络，完结了惊人的成果。但假如这些机器犯了错，它们就无法赢得“Jeopardy！”竞赛，或打败围棋大师。尽管这样的成果缺乏为重，顶多是赌它们赢的人会输些钱。但跟着AI规划变得越来越杂乱、计算机处理器速度越来越快，它们的水平会不断进步。这样一来，即便呈现不知道成果的危险进步，咱们也会让其承当更多的职责。

  咱们知道“人非圣贤，孰能无过”，因而要研制真实安全的体系简直是天方夜谭。

  我正在研制的AI选用的办法名叫神经进化。关于这一种人工智能，我并不忧虑会发生难以预料的成果。我会创造出虚拟环境，让数据生物进行进化、然后处理越来越杂乱的使命。

  这些“生物”的体现会遭到评价。体现最出色的“生物”可进行“繁衍”，生成下一代。繁衍了多代之后，这些“机器生物”便会进化出认知才干。

  现在，咱们正一步步研制出可以处理简略使命的机器。它们可进行简略的导航、做出简略决议计划、或记住几个数据。

  但不久之后，这些机器便能处理愈加杂乱的使命，具有更高档的智能，终究到达人类等级的智能水平。

  在机器的进化进程中，咱们将不断发现并排除过错和问题。每过一代，机器便能更好地处理前几代机器遇到的问题。

  此外，咱们还有或许使用进化进程影响人工智能体系的品德品德。人类的品德价值观很或许是进化的产品，也是人类文明得以存续的原因。在咱们树立的虚拟环境中，咱们可以为体现出仁慈、诚笃和同理心的机器供给更多优势。这或许能保证研制出更依从的“仆人”和更值得信赖的伴侣，削减冷漠的杀手机器人的数量。

  尽管神经科学或能下降发生意外成果的或许性，但仍有被乱用的或许。但这归于品德问题，不归于科学的考虑领域。作为一名科学家，我将秉承真理，不管个人喜爱怎么，都照实报告试验成果。我并不介意自己是否喜爱某个现实，揭穿现实才是最重要的。

  身为一名科学家，我并非毫无人道可言。从某种程度而言，我有必要带入我的期望和惊骇。

  当然，这一部分是因为咱们还不清楚人工智能的本领。但咱们有必要确认自己抱负中的高档AI具有怎样的才干。

  人们重视的要点之一自然是作业。机器人现已替代了部分体力劳动。用不了多久，它们便可担任一度被以为只要人类才干完结的认知作业。自动驾驶轿车将替代出租车司机；自动驾驶飞机将替代飞行员。

  未来的患者不必再挤在急诊室里、等着疲惫不堪的医生来做查看，装备丰厚常识的专家体系便可完结这项作业，手术也将由永不“手抖”的机器人来操刀。

  或许有朝一日，一切人类作业都将被机器替代。乃至我自己的作业也或许被许多速度更快、不知疲倦的机器替代，由它们来研制更智能的机器。

  在现代社会中，自动化导致许多人赋闲。机器一切者变得益发赋有，其他人则益发赤贫。这并不是科学问题，而是政治和社会经济问题。作为一个社会群体，咱们有必要出手处理。我的研讨无法改动这一点，但凭借我的政治人物，再加以整个人类社会的一起努力，或许能打造出一个良性环境。人工智能将有益于人类，而不是进一步扩展贫富差距。

  对噩梦成线、终结者和小说中的各种超级智能代表着人类的另一重惊骇：假如AI继续发展、终究逾越了人类智能，这样的超级智能体系（或多个体系）是否会意识到人类现已无关紧要了呢？在无所不能的超级智能面前，咱们怎么体现出本身的重要性呢？咱们怎么才干防止被自己一手打造的机器连根根除的厄运呢？

上一篇：AI教父脱离谷歌：很懊悔这一生的研讨未来太多专业将被AI代替 下一篇：人工智能到底有多可怕？这3个特色告知你！