对于人工智能未来的发展趋势，英国著名科学家斯蒂芬·霍金一直怀着深深的担忧，在最近接受英国广播公司采访时，霍金说：“全人工智能技术的研发将敲响人类灭绝的警钟。这项技术能够按照自己的意愿行事并且以越来越快的速度自行进行重新设计。人类受限于缓慢的生物学进化速度，无法与之竞争和对抗，最终将被人工智能取代。”

　　按照霍金的说法，人工智能科技在初级发展阶段的确为人类生活带来便利，不过要警惕其过度发展，因为得到充分发展的人工智能或许预示着人类最终被超越。

　　霍金并不排斥人工智能。事实上，因为疾病而行动不便的他就是人工智能的受益者，由于患有肌萎缩侧索硬化症，霍金几乎全身瘫痪。目前他使用英特尔公司开发的一种新的系统说话，该系统能揣摩他的思想并推测他可能希望使用的词语。这使他的打字速度提升了两倍，发邮件的速度提升了十倍。霍金表示，新系统可以帮助他更好地进行演讲、撰写论文和出书，也可以帮助他更容易地与亲人和朋友交流。然而也正是这种便利，让他开始从新的视角思考人类的未来和命运。

　　霍金表示，未来某一天，机器将可能以不断加快的速度重新设计自己。而人类则受制于生物进化速度，无法与其竞争，最终被超越。“短期来看，人工智能产生何种影响取决于谁在控制它。而长期来看，这种影响将取决于我们还能否控制它。”

　　对于霍金的人工智能恶魔论，人工智能领域的一名专家进行了反驳。这个人就是伦敦大学金史密斯学院的认知运算学教授马克·比绍普。他说，上世纪50年代，数学家约翰·冯·诺伊曼第一个提出人工智能奇点理论。几十年后，未来学家雷蒙德·库茨魏尔让这一观点进一步流行开来。1997年，雷丁大学的凯文·沃里克教授在宣传他的著作《机器的进军》时表达了相同的观点。最近，PayPal创始人伊隆·马斯克也发出警告称人工智能将成为人类存在的最大威胁，必须对其进行监管。

　　但在比绍普看来，这些人都误解了人工智能，因为智能电脑虽然拥有令人吃惊的性能，但并不具备人类的一些关键能力，例如理解力和意识能力。这种差距可以防止霍金提到的人工智能失控大爆发，即人工智能自行进化，让机器的智能超越人类，达到所谓的奇点。

　　比绍普说：“在人工智能的发展史上，恐怖一直是一个关键词。每当研究人员声称他们在人工智能研究领域取得突破，便引发人们的担忧和恐惧，认为这项技术违背社会期望。”

　　对于人工智能，比绍普也存在担忧，即我们越发依赖高智能机器。他说：“最让我感到担忧的是机器人武器系统——无需人类干预情况下自行做出决定——在军事领域的应用，因为当前的人工智能技术还不够成熟，很容易导致事态升级和恶化，进而造成可怕后果。因此，人工智能尚未拥有超人类智商之前便可能对人类的存在构成切实威胁。我们应该担忧人工智能，但并非因为霍金教授提出的反对理由。”

　　而北京大学哲学系教授、社会学和人类学专家陈少峰表示，从人工智能遥远未来的发展而言，关键在于从伦理和法律上去予以规范。人工智能机器的主动能力越强，其要有人的控制程度就越低，这也是霍金担忧的原因所在，如果其在思维和意识方面有了跨越性的突破，我们也将面临着伦理上的难题。那个时候人类将如何定义?将如何确定我们自身和具有思维意识的人工智能机器的关系?这些将会遭遇难题。

　　未来可以考虑在国际上成立伦理委员会，规定人工智能发展的一些限定性条件，确定相关标准，形成国际公约和共同的价值观念，并推动各国进行相关立法，建立某种秩序，就能够对人工智能的发展起到很大的引导作用，就像现在人类对待克隆人的态度一样。