读人工智能全传12人工智能导致的问题1

1.人工智能会导致什么问题

1.1.人工智能是一门通用技术：它的应用仅仅受限于我们的想象

1.1.1.所有的技术都可能产生意想不到的效果，未来几十年甚至几百年内都存在可能性

1.2.所有的技术都可能被滥用

1.2.1.我们的无名氏祖先率先用上了火，我们不可能因为他没预料到燃烧化石燃料将导致气候变化而怪罪于他

1.2.2.英国科学家迈克尔·法拉第(Michael Faraday)于1831年发明了电动机，他也没预料到会产生电椅这种刑具

1.2.3.1886年获得汽车专利的卡尔·本茨(Karl Benz)肯定无法预言，他的发明在未来的一个世纪里会造成数百万人的si亡

1.2.4.互联网的发明者温顿·瑟夫(Vint Cerf)可能也没想到恐怖组织会利用他的发明分享可怕的sha人视频

1.3.人工智能将取代我们工作，这值得我们思考人工智能的存在和发展将如何改变人们的工作结构，以及人工智能担任的职能和人类之间存在异化的可能性

2.就业和失业

2.1.它拥有使人失业的潜力

2.1.1.电脑不会疲惫、不会宿醉、不会吵架、不会抱怨、不会要求成立工会

2.1.2.它们不要工资

2.1.2.1.这就是它会让雇主开心、雇员紧张的原因

2.2.人类劳动的大规模自动化至少可以追溯到1760年至1840年之间发生的工业歌命

2.2.1.工业歌命代表商品制造方式的彻底改变，从小规模生产经营(家庭手工业)转向我们今天熟悉的大规模工厂生产

2.2.2.工业歌命并不是由单一的技术突破推动的，而是一系列的技术进步，加上独特的历史和地理环境促成

2.2.3.工业歌命开创的工厂形式，使大多数人的工作性质发生了根本性的变化

2.2.4.在工厂从事一项专业化、高度重复性的工作，作为涉及高度自动化生产流水线的一部分

2.2.5.工业歌命前，大多数人直接服务于农业，工业歌命把人们从农村带到了工厂所在的城镇，把他们的工作地点从田地和农舍搬到了厂房

2.3.卢德派

2.3.1.在19世纪初期，卢德派运动兴起，卢德派是组织松散的团体，他们反抗工业化，焚烧和粉碎了工厂的机器

2.3.2.在1812年，英国正文府将破坏机器定为可判si刑的重罪

2.4.最关键的技术“贡献”应该是微处理器的发展，它让工业里面大量非技术性工作得以全面自动化

2.4.1.微处理器发展是今天计算机技术得以实现的根本，它是一种系统部件，将计算机中央处理器的所有关键部件组合成单一、小型、便宜的单元

2.4.2.微处理器等新技术的发展总体是让经济活动净值增长的

2.4.3.新技术创造了新机遇，创造了更多的企业、更多的服务和更多的财富

2.4.4.微处理器发展的情况：新兴技术创造的就业机会和财富比毁掉的多

2.5.劳动自动化也不是什么新鲜事了，但现在令人担忧的事情，就像以前自动化和机械化夺走了非技术工作一样，人工智能可能会从我们手上夺走技术工作的机会

2.6.三个不会轻易被人工智能取代工作的特点

2.6.1.需要创造性思维的工作被认为是安全的

2.6.1.1.创造性思维职业包括艺术类、媒体类和科学类

2.6.2.需要较强社交能力的工作也是比较安全的

2.6.2.1.那些需要理解和管理人际互动和微妙人际关系的工作，不会轻易被人工智能取代

2.6.3.涉及灵敏感知和灵巧手工的工作也很难被自动化

2.6.3.1.人类的手还是比机械手灵活得多

2.6.3.2.2018年，罗德尼·布鲁克斯预测，恐怕要到20年后才能出现一只跟人类一样灵活的机械手

2.7.人工智能所引起的焦虑和争议，大多集中在失业问题上

2.7.1.如果你的工作只是用程序化的脚本跟客户对话(就像许多呼叫中心接线员的工作)，那么我很抱歉，人工智能会很快让你变成无用阶层

2.7.2.如果你的工作只是在一个受限制的、地图清晰的城市地区进行日常驾驶，那么很抱歉，人工智能注定会取代你

2.8.对于我们大多数人来说，新技术主要改变的是我们的工作性质

2.8.1.拖拉机的发明没有取代农夫，只是让他们成为效率更高的农夫

2.8.2.文字处理机的发明也没有取代秘书，只是让他们成为效率更高的秘书而已

2.8.3.我们可以通过软件智能体来简化工作，提升效率，这样我们可以从无穷无尽的文书表格工作中解脱出来

3.乌托邦主义者

3.1.乌托邦主义者相信人工智能最终会将全人类从枯燥乏味的工作中解脱出来

3.2.在未来，所有工作(或者说，至少所有肮脏、危险、无聊或其他不受欢迎的工作)都将由机器完成

3.3.短期内实现并不合理

3.3.1.人工智能所产生的经济效益必须是巨大的，才能使全民基本收入得以实现，因此就需要远远超过以往的技术创新来支撑庞大的项目，而没有任何迹象表明目前的人工智能发展会带来如此规模的经济效益

3.3.2.要想推行全民基本收入计划，将需要前所未有的强烈政治意愿：可能会在社会环境极其紧张的情况下才能迫使正文府接受这样的行动方针

4.算法异化

4.1.马克思的异化理论关注的是工人与工作和社会的关系，以及资本主义制度是如何影响这种关系的

4.1.1.工业歌命出现了工厂系统，工人们在工厂中从事重复性的、无聊的、最终毫无成就感的工作，以换取微薄的收入

4.2.在未来，我们的老板可能只是一段算法

4.3.零工经济

4.3.1.长期雇佣关系已经越来越少见，取而代之的是短期工作、计件工作和临时工作

4.4.人们日常工作所做的每一件事，甚至在键盘上按键的次数，发送电子邮件的习惯语气，都可以被电脑程序记录和监控

4.5.亚马逊的工人

4.5.1.你就像个机器一样，不过是人形的，如果你乐意的话，可以管这叫作人类自动化。

4.6.人类的劳动被系统地简化为那些不能被机器或软件自动化的任务，工人被细致地监控和监督着，没有创造力、没有创新性、没有个性，甚至没有思考的空间

4.7.从工业歌命时期就存在的趋势，人工智能只是扩展了它的维度

4.8.技术是中立的

5.人权

5.1.人们对人工智能的使用的更大担忧，是它影响了最基本的人权

5.2.拥有一个人工智能系统做老板已经很让人头疼了，它告诉你什么时候可以休息，什么时候应该工作，给你设定目标，并对你的工作状况随时监控和批评

5.3.危害评估风险工具Harm Assessment Risk Tool， HART

5.3.1.旨在帮助警察决定应该释放还是拘留涉案嫌犯的人工智能系统

5.3.2.HART是机器学习的经典应用，它的训练库包括2008至2013年获得的所有拘捕数据(约104 000起拘捕事件)，并用2013年的全年拘捕数据进行测试(测试用的数据未纳入训练库

5.3.3.主要问题在于HART只关心独立案件的一系列特征，它不会像一个有经验的监管人员那样，会综合考虑嫌犯背景和案件流程，所以它的重要决定是基于相当狭窄的数据基础做出的

5.3.3.1.决策缺乏透明度也是一个令人担忧的问题(这是机器学习的经典问题，人工智能程序无法给出决策的解释)

5.3.4.培训所使用的数据特征可能存在偏差，也有人提出这一点(尤其是将嫌疑人的住址作为特征之一，这更令人担忧，该系统的决策可能涉嫌歧视底层区域的人)

5.3.5.HART是由经验丰富的研究团队开发的，他们应该全面周到地考虑过这款软件可能面临的各类问题

5.3.5.1.并不是所有开发者都有如此丰富的经验，或者会如此深入思考

5.3.5.2.令人担忧的是，代替人类做决策的系统，是否在开发环节考虑得足够谨慎和全面

5.4.HART这样的系统侵蚀了人类判断的地位

5.4.1.对一个人做出重大影响的决策者是人类，比起别的东西，更让人感觉自在

5.4.2.这些工具只能用于为人类决策者提供支持，而不能取代人类进行决策

5.5.让人工智能系统识别一下人脸就可以发现潜在的犯罪行为

5.5.1.系统训练使用的是警方拍摄的罪犯面部照片，而这些照片往往都不会面带微笑