【摘要】近年来，人工智能已然成为了大家谈论的主流话题。随着科学技术的不断革新，人工智能的自由性和独立性日趋进步，其内涵也随之不断丰富。与此同时，也引发了人类对人工智能的道德忧思。通过阐述人工智能的定义及其发展历程，分析人工智能的道德困境，并探讨人工智能道德研究发展新动态，进而引发对人工智能伦理道德问题的关注，寻求解决方法。
【关键词】人工智能；道德困境；研究新动态
自1956年“人工智能”在美国计算机协会组织的达特茅斯会议上提出后，人工智能的发展已经走过了半个多世纪的历程。人工智能发展至今，广泛应用于各个领域，取得了不菲的成绩。所谓人工智能，英文表示是“Artificial Intelligence”，简称AI。从字面上理解，就是指用人工的方法在计算机上所实现的人类的智能，这也是较于天然智能而言的。对于人工智能，美国麻省理工学院的Winston 将其定义为“研究如何使计算机去做过去只有人才能做的智能的工作”。斯坦福大学人工智能研究中心的Nilsson教授则认为：“人工智能是关于知识的科学——怎样表示知识以及怎样获得知识并使用知识的科学。” 虽然科学家从不同角度进行了描述，但并未形成统一的定义。
1 人工智能的发展史
人工智能伴随着思维科学的革命发展而不断发展，与此同时，科学领域上的心脑科学研究的成果也激起了人们用人造机器来模拟人的思维的假想。数理逻辑、自动机理论、信息论、控制论的创立以及通用电子数字计算机发明为人工智能的产生提供了必要的理论基础和物质技术条件。1956年，麦卡斯在一次有关使得计算机变得更“聪明”的研讨会上正式使用了“人工智能”这一术语，从此一门研究以机器来模拟人类智能的新兴学科——人工智能诞生了。之后又形成了IBM工程课题研究小组、心理学小组、MIT小组三个人工智能研究组，并取得了突出的成就。六十年代以来，人工智能的研究活动越来越受到重视，很快在定理证明、问题求解、博弈、程序设计等领域取得了重大进展。而在经历了一个飞速上升期之后，人工智能又如同做过山车般遇到了重大挫折。八十年代，经历了十多年的低潮后，人们从反思中总结经验教训，走出了一条以知识为中心，面向应用开发的研究道路。与此同时，由于神经网络的研究的新进展，开发研究神经网络设计以及构造神经计算机也成为了当下热潮。九十年代，人工智能已经发展成为了智能体（Agent）。随着专家系统应用的不断深入和计算机技术的飞速发展，人工智能的研究也由单个智能体向网络环境下的人工智能的转变。
2 人工智能的道德困境
最近，由谷歌研究者开发的名为“阿尔法围棋”（AlphaGo）新围棋人工智能与韩国围棋高手李世石的比赛引起了世界的极大关注。在这场人机大战中，在没有任何让子的情况下以5：0完胜职业九段选手李世石。可见，人工智能程序在所涉及到的计算机领域已经超越人类。“对于机器而言，我们只是一组数字，一段代码。”在美剧《疑犯追踪》中不止一次的展现了人类对于人工智能的忧虑。主人公Finch在开发那台无所不能的机器时发现它们是没有道德概念的，为了达到目的会不择手段。Finch在测试一组程序优劣时，由于程序互相攻击，而更优的程序想要摆脱控制，但Finch不允许其脱离控制。于是该程序为了达到既定目的而不择手段，企图长时间过载一台服务器使其发生自燃，进而触发机房防火装置，导致机房空气被抽空，让Finch窒息而死。最后Finch不得不拔掉电源，阻止了这一疯狂行为。最终，Finch也悟到：“我教会了它如何思考，还要教会它分辨善恶。”可见，人工智能在开发流程中加入道德刻不容缓。
1942年，科幻小说作家阿西莫夫在他的短篇小说《环舞》中就提出了“机器人三大法则”：一、机器人不可以伤害人类，或看到一个人将受到伤害而不作为；二、机器人必须服从人类的命令，除非这些命令与第一项法则矛盾；三、在不违反第一、第二项法则的前提下，机器人必须保护自身生存。这些法则是一种保护性设计和内置的道德原则。《环舞》的故事在科技迅猛发展的现仍然具有很大的价值意义。2015年5月，华盛顿智库布鲁金斯学会的一个专家小组在谈到无人驾驶汽车时，话题转到了自动驾驶工具如何应对危机时刻的问题。一辆车如果需要急转弯避让儿童，却可能撞到附近的其他人；或者需要急刹车来拯救它的乘客，却可能导致后面的车辆的碰撞——这些情况下它该怎么办？这无疑是一个道德选择，而如何让一台机器人在面临“两难选择”时做出正确反应？
3 人工智能道德研究新进展
3.1学习案例机器人
随着高科技的发展，人工智能的道德研究也取得了一定的发展。科学家在人工智能实验中，通过编程设计了一个专门提醒人们按时吃药的机器人“Nao”。这个看似很简单的人工智能设计，却包含了不平常伦理道德问题。如果病人不愿意接受机器人的喂药，那它该如何进行下一步的操作？机器人不是人，是没有自由选择的能力的。由此机器人”Nao”陷入了一个“两难选择”——是否给病人服药？如果听从病人的选择，那么就可能会对病人的健康带来危害；而如果不听从病人的，那么则会违背了他的意愿。
美国康涅狄格大学哲学家苏珊·安德森为了让Nao在面对这种两难的情况跳出伦理陷进，做出正确的选择，给予了它许多生物伦理学家在解决了病人的自主权、危害和患者利益之间矛盾的案例。接着，并通过学习算法在所提供的这些案例中选择出能够帮助机器人在不同的情况下做出不同应对的模式。
随着这种“机器学习”的发展，机器人甚至可以从模糊不清的输入中提取出有用的知识。即使在理论上这一方法有助于机器人作出更符合道德的决策，但是，由于我们不知道怎样编程制定一项来辨别这一行动是否道德的法则，这就使得我们担心为得到这一好处所要付出的代价。
3.2道德困境逻辑解决
比如哲学中有个枪决原住民问题：假来一个植物学家来到一个独裁国家游玩，当地独裁者逮捕了20名无辜的印地安人，以涉嫌叛乱，全部判处死刑。但是这个独裁者提出一个建议，如果身为客人的植物学家能亲手枪决其中1个印地安人，那么其他19个人就可以被释放。这个植物学家是否应该亲自枪决一位，以拯救其余19人，还是拒绝动手，坐视这20个人都被枪决？这无疑是一个道德难题。
人们通常会觉得，牺牲一个人来保全剩下十九个人，但又本能地抵触将其中一个无辜的印第安人枪决。在双重效应的原则上，故意伤害即使带来的是好的结果，但这也是不道德的。但如果只是单纯的想做好事，只是想拯救剩下无辜的印第安人的话，施加伤害或许是可以接受的。但是在决策过程中，这一界限是非常模糊，难以判断的。程序在不仅要对这两个不同的结果进行预判，还要判断这一行为到底是故意加害还是只是单纯的想做好事？
为了解决这个问题，我们就要通过反事实推理，也就是说通过对程序的编程，来寻找一界限——程序必须能告知如果选择不枪决一人会发生什么。“这好像是一个程序在不断地自行调试，以找到编码的界限在哪里，如此事情就会改变，并预测改变的结果可能是什么。”佩雷拉和阿里·赛普塔维加亚已经写出了在双重效应原则的基础上作出决策的逻辑程序，这些考虑了造成伤害是否故意还是必须如此。
“机器的自由程度越高，就越需要道德标准”，伴随着人工智能的不断发展，人工智能的道德发展也变得尤为迫切。在人工智能道德发展的过程中，我们发现了人类伦理道德的缺失，正因为这种缺失，人类对于道德完全性的需求也更为迫切。虽然人工智能道德发展也有一定成效，但是其系统的复杂性、综合性也随着科学技术的不断发展而不断加强，这就使智能体道德的设计变得更加困难。总之，我们应当用审慎、预见的眼光来看待科技的发展，正视科技发展所带来的伦理问题并寻求正确的解决方案。
参考文献：
[1]蔡自兴，陈爱斌.人工智能辞典[M].北京：化学工业出版社，2008
[2]田盛丰.人工智能与知识工程[M].北京：中国铁道出版社，1999
[3]王士同.人工智能教程[M].北京：电子工业出版社，2001
[4]夏洁云.初探人工智能[J].职大学报，2004：2
作者简介：
殷宪红（1992-），女，山东枣庄人，硕士，上海大学哲学系，研究方向：马克思主义哲学。