News

  最近，人工智能兵器遭到剧烈的对立和反对之声，促进一些人以为机器人将终究替代人类，成为世界的操纵。这种可怕的设想定不行能在近期内成为实际，但人工智能兵器带来的要挟确非惯例人控兵器能够比较，旗帜有足够的理由对其说“不”。

  在谷歌的无人驾驶轿车身上，旗帜可一瞥人工智能的未来。幻想一下，一个凶恶的犯罪集团盗取了一辆无人轿车，然后给车子装上机关枪并对其从头编程，使其成为杀人兵器。这种兵器就是人工智能兵器。人工智能兵器的巨大潜力引起了政府的爱好。这一年，美国海军宣告研制自治无人机兵器的方案。此外，韩国的Super aEgis II主动炮台以及俄罗斯的Platform-M主动作战机器研制方案也浮出水面。

  在研制智能兵器方面，政府并不是仅有的参与者。幻想一下，一种搭载着GoPro运动相机的四旋翼无人机，绝大多数人都有才干购买。再幻想一下，有人研宣布一款简略的软件，答应这种无人机自主飞翔。已然能够让无人轿车兵器化，凶恶的犯罪集团天然也能让无人机兵器化，在人员密布的公共场所制作大残杀。人工智能兵器构成一个火烧眉毛的要挟：它们很简略被转化成屠戮机器，不分青红皂白地打开残杀，危险性远远超越类型相同，但由人类操控的兵器。

  物理学家斯蒂芬·霍金和马克斯·泰格马克、科技业大佬伊隆·马斯克以及其他许多人都在人类未来研讨所的一份示威书上签名，呼吁制止人工智能兵器。在此之前的4月，联合国举行“杀手机器人”会议，但并没有做出任何具有持久性的方针决议。人类未来研讨所的示威书称人工智能兵器的要挟火烧眉毛，需求采纳举动以避免在几年内变成灾祸。不过，示威书并没有指出何种类型的智能兵器现已出现在地平线上。

  许多人忧虑《终结者》中描绘的末日现象将成为实际。片中，机器人具有与人类相似的才干，妄图降服人类，成为地球的统治者。英国物理学家和天文学家马丁·里斯提出了灾祸性假定——机器人失掉操控或许网络具有自我意识。他在剑桥的搭档、哲学家休·普莱斯也表达了相似的忧虑，以为人工智能一旦脱节生物学捆绑，人类便或许无法持续存在下去。在两个人的尽力下，剑桥大学成立了存在要挟研讨中心，力求避免人类的生计遭受如此灾祸性的要挟。

  这些假定的确值得研讨，但远不如现已出现在地平线上的人工智能兵器构成的要挟那么急迫。不管依照何种规范，旗帜都不行能在近期内研宣布类人人工智能。雷丁大学的谈天机器人尤金·古斯特曼被许多媒体称之为“真实的人工智能”，由于它让一些人信任它是一个13岁的男孩，但事实证明古斯特曼与真实的人工智能仍相距甚远。

  许多人之所以在示威书上签名的原因在于：与具有自我意识的电脑网络不同，装置机关枪的无人轿车是一个更为实际的要挟。相似这样的人工智能兵器的真实要挟并非它们现已处在消灭世界的边际，而是任何一个电脑黑客只需很低的预算便可对它们进行从头编程，将其变成高效而且不加挑选打开残杀的屠戮机器。智能兵器自身并不行怕，真实可怕的是那些用心险恶的人。

  幻想一下，一个狼子野心的独裁者决计清洗对立者。他有一个数据库，里边存储着有关国民忠诚度的数据、地址和相片。假如是在曩昔，这个独裁者需求一支戎行完结这个使命，还需求贿赂战士或许给他们洗脑，让他们死心塌地地为自己效命。但假如是在未来，他只需求购买几千架装有主动兵器的无人机。（依据摩尔定律，人工智能无人机的价格将在未来的某一天降至与AK-47适当的程度。）接下来，效命于他的三四名软件工程师对无人机进行从头编程，然后差遣无人机到对立者的住处和作业场所邻近巡查，一旦发现方针便予以射杀。无人机犯错的几率更小，不会被人贿赂或许洗脑。最重要的是，它们的功率远远超越战士，协助狼子野心的独裁者在世界社会做出任何反响之前将对立者悉数清洗。

  由于主动化大幅进步功率，这就意味着丧尽天良的恶棍制作大残杀的难度大幅下降。有了人工智能兵器，曩昔的独裁者需求掌控整个戎行才干做到的工作，现在只需财力雄厚便可办到。妄图研制这种兵器的制作商和政府或许宣称他们能够采纳齐备的防范措施，保证智能兵器不会被从头编程或许被黑客侵略。关于这种情绪，旗帜应投以置疑的目光。从电子投票机到主动取款机，再从蓝光光碟播放机到奔驰在高速路上的轿车，它们都曾织造安全神话，但最近都在黑客的进犯下幻灭。前史的经验告知旗帜，核算设备往往屈服于妄图改动其用处的黑客，人工智能兵器不行能成为一个破例。

  1925年，《日内瓦议定书》签定，制止在战役中运用窒息性、毒性或其他气体以及细菌战。空尖弹早在1899年便被禁用。未来是否会签定相似禁令，制止运用某种人工智能兵器？答案是必定的。假如只需很低的本钱便可简略将某种人工智能机器改形成高效的，不加挑选地打开残杀的大规模杀伤性兵器，制止运用这种机器的世界公约便会浮出水面。这种机器与放射性金属没有实质不同，都能够用于合理用处，但旗帜有必要慎重对待，严加管控，避免其被改形成消灭性兵器。人工智能机器的可怕之处在于：对其进行改造并将其用于损坏意图的难度远远低于改造核反响堆。

  旗帜之所以要制止人工智能兵器并不是由于这种兵器自身，而是由于包藏祸心的人很简略将它们变成嗜血的恶魔。只需求一段简略的代码，许多智能兵器便可转化成损坏性不亚于生化兵器和空尖弹的屠戮机器。

  制止确认人工智能机器需求回答许多问题。人工智能兵器能否促进美国抛弃“星球大战”导弹防护方案？假如轿车能够被作为兵器运用，是否应该制止无人轿车？智能的切当界说是什么？兵器的确认界说又是什么？所有这些都是非常重要的问题，也很难找到答案。不过，在旗帜赞同签署一项协议，操控人工智能兵器之前，这些问题无需回答。关于人工智能兵器可接受的规模，世界社会有必要严厉考虑，仔细听取科学家、哲学家和电脑工程师的主张。现在，美国国防部现已在某种意义上制止彻底自治的兵器，是时分在世界层面进行细化和扩止规模。当然，任何一项世界禁令都无法彻底遏止人工智能兵器的分散，但旗帜没有任何理由放任不管，不签署任何禁令。已然旗帜有充沛的理由制止生化兵器和空尖弹，旗帜相同有充沛的理由对人工智能兵器说“不”。

上一篇：联合报：人工智能何故令人惊骇？ 下一篇：你懊悔进入IT工作吗？答案让人意外！