人类创建更伟大的未来”，那么最好能够确定它会做出怎样的反应。
基于超级计算机在很多领域的应用经验，在具体领域中，人工智能能够有效地降低风险。然而对于应用全面人工智能的领域，应持有谨慎的观点。
超级计算机的认知系统和其他现代计算机系统一样，是基于云计算结构、运算法则和大量数据构建的。为了防止违规现象出现，这些系统的运转是可以被记录、追踪和审查的。
这些认知系统不是在自主运转，所以它们的指令、数据、结构需要采取一定的保护措施来防止人为的外部攻击。任何接入、更新系统的人都是可控的，主要通过复杂的加密和数字签名来保护数据，通过漏洞扫描和其他技术手段保护运算代码，通过隔离等手段保护计算机结构。
超级计算机在医疗领域的应用是通过处理大量患者的医疗数据为医生提供多种处理建议，但它不会给出诊断意见。
医生会考虑它提出的建议，并综合分析其他因素，然后做出最终的诊断。医生在诊断中犯错的主要原因在于医生无法完全掌握关于某种疾病的全部信息，计算机能够帮助医生减少失误，因为计算机能提供更加全面的医疗建议。
有史以来，人类一直通过制造工具来完成之前做不到的事情，每一代工具的产生都会引发人们对自然和工作方式的思考。
生产力提高，工作被重新定义，新的职业诞生，一些职业消失。计算机认知系统拓展了人类的思维能力，替代性的潜力更强。问题的关键是应该建立一个机构，快速培养专业人士，让他们能够将计算机认知系统作为助手辅助他们各自的工作。这些技能能够加强人类的专业性，为“专家”设定一个全新的标准。
全面人工智能何时实现，甚至是否能够实现，都存在很大的不确定性，但是不确定性并不是不去思考控制人工智能问题的借口。针对如何控制人工智能的问题，有针对性的研究刚刚开始，可能需要几十年才能有结果。
可以把应用在具体领域的人工智能对人类的不良影响控制到最小的程度，这需要为机器设定人类的价值标准，设定工作原则和优先级，如与人类冲突的解决能力。具体领域的人工智能设计工作完成后，就能为设计出不危害人类的全面人工智能做好准备。
从学科基础看，人工智能学科从“什么是智能”的哲学问题出发，从原理上研究在“智能行为机械化”过程中的一些根本限制和技术原则。另一方面，机器人学科则从工程应用的角度出发，考
本章未完，请点击下一页继续阅读！