▲ 担忧和恐慌一直伴随人工智能的发展，电影《人工智能》就探讨了在机器人的发展过程中，赋予机器人以情感这一富有争议的问题。而这类电影并不鲜见。

　　▲ 争议、勇敢的机器警察是人们喜爱的电影角色，但它也引发了人们的讨论。人工智能机器的主动能力越强，其要有人的控制程度就越低，如果其在思维和意识方面有了跨越性的突破，我们也将面临着伦理上的难题。那个时候人类将如何定义?将如何确定我们自身和具有思维意识的人工智能机器的关系?这些将会遭遇难题。

　　人工智能的发展无法不引起我们的思考：人工智能未来会控制和毁灭人类吗?如今，这已经成为一个严肃的科学问题。

　　陈少峰在接受记者采访时表示，截至目前的人工智能是将人类行为转化为逻辑行为，并按照程序和代码指令做出行动。

　　如今，人工智能在计算机领域内得到了愈加广泛的发挥，并在机器人、经济政治决策、控制系统和仿真系统中得到应用。尤其是在计算机和机器人领域，人工智能已经成为最为核心的发展方向，并且还有着异常广阔的发展空间。

　　中国科学院软件研究所研究员武延军表示，尽管目前人工智能已经在计算机系统中开始应用，但是就其内部构架而言，其依旧是非智能化的，人工智能的发展将会改变这种状况。在未来计算机系统也将变得更加智能，其能够自身进行程序的优化和维护，从而让计算机系统始终处于最佳状态，另外在人机交互方面也将取得重大进步。

　　现在，从“沃森”身上，很多人看到了高级认知系统的广阔前景：可以理解自然语言的复杂性;能够利用交互行为不断学习。甚至有人认为，最终它的表现将能媲美世界上最复杂的计算机——人脑。

　　机器发出的邪恶指令

　　而在人工智能领域，专家和学者们提出了弱人工智能和强人工智能的观点。弱人工智能观点认为人类不可能制造出能真正地推理和解决问题的智能机器，这些机器只不过看起来像是智能的，但是并不真正拥有智能，也不会有自主意识。它们只不过是按照人类预设的程序和代码行动。“像现在大量使用的工业机器人和计算机程序就是如此。” 中科院自动化研究所研究员徐德表示。

　　强人工智能则会有明显的不同，持有这种理论的科学家们认为，人类是有可能制造出真正能推理和解决问题的智能机器的，并且这样的机器将被认为是有知觉的，有自我意识的。

　　强人工智能有两类：类人的人工智能，即机器的思考和推理就像人的思维一样;非类人的人工智能，即机器产生了和人完全不一样的知觉和意识，使用和人完全不一样的推理方式。目前，人类就智慧的有关判断都是以人类自身为参照物，但是未来强人工智能极有可能发展出与人类截然不同的另外一种或者多种智能，就像一些科幻影片中对一些外星人的描述一般。

　　在强人工智能方面，目前人类已经取得了一些突破和进展，IBM公司的进展就是其中最为神奇的写照。但是这种强人工智能未来将如何影响人类，目前还难以预料。

　　对我们人类而言，人脑是人类整个行动的中枢，我们的一切行动指令都从这里发出，不管是正当的还是邪恶的。也正是因为如此，我们这个社会和我们每个人自身也时不时要遭受一些来自人类自身的攻击行为。

　　当计算机的中枢控制系统能够媲美人脑以后，人类又该如何应对它们发出的邪恶的指令呢?

　　根据最近的研究进展，“沃森”目前已经能够主动性地做出情绪反应。比如2013年，“沃森”就闹了一次“小情绪”，它在识记来自《城市字典》的内容时无法辨认哪些是得体用语，哪些是不文明用语，曾用“bullshit” (废话)作为回应，IBM公司不得不将这些条目从“沃森”的记忆卡中移除。陈少峰告诉记者，随着研究的推进，未来“沃森”的主动性情绪反应将会变得更加丰富。

　　“问题是，人工智能机器的这种主动性情绪反应偏离了当初的方向该怎么办?”陈少峰说。而这也正是一些科学家、未来学家乃至哲学家和社会学家所担忧的问题。

　　机器会获得人一样的思维和意识吗?

　　目前，人类离会思考的智能机器似乎越来越近。这种人工智能对人类可能的挑战是，如果其变成了会思考的机器，能够自己做出指令，其极有可能给人类带来危险。

　　其实，在计算机科学发展之初，科学家们就已经意识到人工智能机器一些可能的前景——例如图灵测试。不过美国加州大学伯克利分校哲学教授约翰·罗杰斯·希尔勒认为即使有机器通过了图灵测试，也不一定说明机器就真的像人一样有思维和意识。

　　也有哲学家持不同的观点。美国哲学家、作家及认知科学家丹尼尔·丹尼特在其著作《意识的解释》里认为，人也不过是一台有灵魂的机器而已，为什么我们认为：人可以有智能，而普通机器就不能呢?他认为人工智能机器是有可能有思维和意识的。

　　徐德倒是认为这个问题没有必要过于担心，因为人工智能机器是受人类控制的智能，最根本的问题是其背后控制它们的人出了问题，而不在机器身上。人类只要找到了问题的根源，就能够控制它们。

　　徐德多年来一直在从事智能机器人的研究，他说智能机器人的发展会越来越高级，更多的人类智慧和行为特征将会被应用到机器人中，这会成为一个趋势，但在目前能够预测的将来，智能机器人不会彻底摆脱人类的控制，更不会灭绝人类。

　　另外，无论智能机器人如何发展，其也难以达到和生命组织一样的程度。“这些年，随着仿生学的发展，机器人在模仿生物特征方面有了很大的进步，但是由于生命组织的复杂性，机器依旧还是机器人，其始终难以达到和生命组织相同的程度。就是一条鱼，机器也不能够做到完全相同，任何一个生命体都有能够对自己所处环境进行判断并调整自己生存策略的能力，而这是人工智能设备自身难以做到的，生命体的神经网络系统实在是太复杂了。”

　　机器人反抗人类难以发生

　　北京大学心理学系脑功能研究专家沈政教授表示，截至目前人类脑科学的有关研究取得了很大的进步，在未来二三十年内，人类在这一领域还有望获得更大的突破，人类大脑更多的秘密将会被解读出来。但是要指望获悉人类大脑的全部秘密却并不现实，也许人类永远也做不到。

　　“人脑中储存的信息是极其复杂的，现代信息技术不可能完全翻译和复制。比如人脑中的记忆既有外显记忆，又有内隐记忆，像平时我们在街上意外碰到一个熟人，但是一时想不起他叫什么名字，可当他走过去10秒钟以后，却突然就想起了他的名字，这样的记忆就是内隐记忆，而这样的记忆是根本就无法复制的。”

　　沈政表示，关键问题是人脑的复杂思维活动和动态信息有什么特征，人类很难予以全部掌握。因此人脑无法完全复制。

　　陈少峰告诉记者，就复杂程度而言，未来人工智能的中枢系统会超过人脑，但却难以形成人脑这样的神经结构和生物体结构，这就决定了其难以超越人脑。

　　徐德并不否认未来随着人工智能越来越高级，其制造的机器设备会给人类造成一定的困扰甚至是破坏，就像计算机病毒一样，这些年曾经多次在全球范围内上演计算机大规模感染事件，给人类造成较大的困扰和经济损失。可在计算机诞生之初，谁都没有想到计算机程序的行为方式会发生一些变化，其病毒具有自我复制和大面积扩散的能力。

　　未来，机器人等人工智能设备在这方面的风险同样存在，不排除其能够自我进行程序的修改并执行相应的指令而给人类带来一些麻烦。不过，我们也不必过于担忧，就像现在的计算机病毒，其发展演变也并没有完全脱离人类的掌控，只要找到它们的行为特征以后，就可以对付它们。对人工智能设备而言，其未来也会如此。

　　“对机器人而言，更为重要的是，机器人发展的最后形式都是单个的个体，它们并不需要像现在的计算机这样实施大面积的联网。因此，人类只要具有相应的风险防范意识，美国科幻影片中众多机器人联合起来对付人类的事情不会发生。”徐德说。

　　不过，未来的科技会发展到什么样的程度，如今任何人都无法做出准确的预测。因为人工智能未来发展的不确定性，其对人类的风险性依旧不能被忽视。■（文/记者 李鹏）