当提到工业革命时，总会出现蒸汽引擎、纺织工厂和钢铁工人的画面。18世纪末到19世纪初，社会正处于从以农业为主转 向以工业为基础的时期。由于钢铁、石油的生产，以及电的出现，工业化快速发展的第二个阶段出现后便发生了第一次世界大战。
快进到二十世纪八十年代，数字电子学的出现深深地冲击着社会——数字革命到来了，这也被称作第四次工业革命。像之前的几次一样，工业革命是以技术探索为中心——第四次工业革命时期主要是人工智能，机器自动化和物联网。但如今，焦点已经转移到了技术如何影响社会，以及人类相互交流与彼此连接的能力上。
“第一次工业革命时，我们用蒸汽取代了人力；第二次工业革命时，电力又取代了蒸汽；第三次工业革命时，我们发明了计算机，”瑞士ABB公司数字信息系统首席主管Guido Jouret说道，“我们有可控的智能系统，但有关“人类大脑皮层中学习系统”这一块的技术仍然是欠缺的。”这也是现阶段人工智能在技术上出现的改变。现在需要批判性的去谨慎思考人工智能的未来，比如：它们会为人类生活带来什么样的影响，人工智能的发展又将面临哪些机遇和挑战。
AI的出现
当人工智能的概念对于大多数人来说还很新鲜的时候，其实已经存在了差不多有十年了。2018年3月，澳大利亚国立大学工程学和计算机科学教授Genevieve Bell在一次校内发布会中提到，“人工智能”这个词早在 1956年便已被创造出来了。
值得一提的是，这几年人工智能作为计算机科学的分支已经广泛流行起来，有了积极的研究人员，一台充满智慧与灵性的机器即将诞生——但也不会那么快，因为确实很困难，它可以进行所有人类无法做的运算。
今天，支持性技术已经成熟，人工智能已具有可行性和影响力。它的普及同时也带来了社会道德的困境。关于人工智能带来的冲击，正有源源不断的问题和关注。那些技术对于人类、我们的系统、处境、组织和国家，究竟意味着什么？
AI观察员认为，在规划人工智能的未来时，首先应该让社会冷静下来并提出切实的问题。接着Bell开始分析它的研究：
真正的自治？
在“什么是真正意义上的人工智能自治”这一点上，还没有明确的定义。“假如把‘自治’看成是一个标杆的话，我们最后将不断提升自主权的水平，并且一定会有地区可以做到”他把可控的部分比作海上的船只，去探索不同的自主大陆。
2018年10月，Bell教授在旧金山的一次演讲中说：“当我说‘自主’时，你会想到知觉，意识和自我觉醒。如果你去读一读科幻小说，就会知道接下来要发生什么了”。
事实上，系统可以在无意识、无知觉的情况下独立运作。“自主”仅仅意味着不需要直接设定一个规则或者程序就可以直接运行。
那样就带出了社会伦理道德问题。拥有一个自动化的系统有什么意义？我们将会有什么样的感受？那又意味着什么？
安全保障与控制
目前只能初步引导和控制AI主导系统，但现在一定要客观的去思考它，Bell和其他观察员相信，我们确实需要掌控自主权，也需要构建一套准则去发挥AI的优点，但是社会不能仅仅因为公司可能要为此负责而抛弃一个如此有用的技术。
拿无人驾驶举例，其核心也是自动化技术，这样的设定更方便于合理规划时间，能够更快的得到反馈。但并不是每一种情况都适用，也有例外。像Jouret说的那样，我们该如何管理并控制那些AI能做和该做的事呢？我们需要让AI也拥有自控力，就像我们能够控制自己的行为举止那样。这需要为“行为”的代码做一些分类， 给AI一些“人”的原则。
那么，当“规则”被重写的时候会发生什么呢？Bell教授举了“如何在非常紧迫的时间里将路上的轿车挪开为救火车让路？”的例子。如此看来，这些规则将如何跨越边界，跨越国家，跨越文化？
实际问题
像风险、义务、信誉、隐私、道德和管理能力这样的法律事务也同样重要。当AI系统在自动化领域保持在中心地位的时候，一定是要被管理，控制，调节的，甚至要确保它们是社会的一部分。面对那些可接受的而风险，一定要做好保障措施。我们应该去问问哪些保险公司“可以为那些AI的潜在风险提供保险？”
AI系统的安全问题在“自动驾驶”方面考虑的就比较细致。“微米技术”半导体生产商的的主任Sumit Sadana认为：随着安全的自动驾驶车辆的生产，人们开始逐渐对技术有自信了。同样的，随着时间的推移，人们在航空航天领域也会有这样的自信的。
数据的发展引导AI的成长和进化，AI系统的功能在各个领域都将更有影响力。在各种各样的条件下输出的信息里，该如何分辨好坏？现在我们给AI和机器设置的学习方法并不支持自我检查，他们不能判断自己的行为，所以我们的焦点必须从“如何设计”转移到“为什么设计”上来。
一个关于“度”的问题
能够测量一种技术的影响范围是一件非常重要的事情，特别是新的或是新开发的系统。当AI的影响范围可被测量的时候，我们又将如何判断它是好是坏呢？那个系统将会是高效高产的吗？它会节约时间又或是节约资金吗？
当计划搞一个像自动驾驶这种刚出现的技术时，“度”的问题总是围绕着“安全问题”而展开。当然那也意味着我们需要知道在哪种程度上使用这种技术是最理想的。
大多数可知的挑战会把AI输出的中心放在数据的质量上——数据库的大小和质量对输出的误差有非常明显的影响。AI和机器的能力是非常大的，但如果你只给那些算法不好的数据，你得到的也只能是不好的结果。数据库也会创造他们自己的偏好或是偏向于依赖数据的源头。那么数据的源头是什么呢？谁碰过这些数据？这些数据中有偏向性吗？
人类交互
还有一些问题是，人类该如何与AI系统交互？这些系统通常缺少人们惯用的那种手动输入的功能。大多数人首先会觉得，那些以技术为控制核心建造起来的智能建筑是不同寻常的。电梯再也不用按钮了，而是改为声控；灯光不再需要开关键了；制冷制暖也不需要恒温器了，这些都只是AI系统中一些不太适用于现在的案例。
当人们可以在一座智能建筑中穿梭，或是驾驶一辆自动驾驶汽车的时候，我们就知道该如何驯化AI了。Bell认为，我们需要一种简单直接的方法去进行人机连接。人们肯定不想在坐进一辆自动驾驶汽车前先输入一堆10到12位的又是字母又是数字还要区分大小写的密码。
主导革命
最直接的技术问题就是，将AI新技术放在军事技术领域。关于“权利”、“连接程度”、“带宽值” 的分类问题和安全的控制它，都是要考虑的事情。更具关联性且只有一些细微差别的问题是，社会和人类将如何管理AI系统。我们应该设定一个像“转折点”那样的确切时刻，这就要求人类在开始行动前就确定好要做什么。
世界经济论坛的创始人Klaus Schwab认为，比起“技术”。更重要的“人类”的部分。他在《第四次工业革命》（2016）中写道，“我们应该将第四次工业革命塑造成技术起作用且是以人类为中心的，而不是有分歧又失了人性的。这不是简单的哪一方（个体经营户，行业，任何区域，工业或者文化）的工作。这次革命的基础以及全球环境意味着，他会受到所有国家，经济，行业和人的影响，同时也会反作用于他们。”
因此，世界在飞速改变，我们要用一种有益的方法去塑造我们的未来。
