1. 机器人sha手

1.1. 自主57的话题总是带有强烈的煽动性，许多人会本能地厌恶它，认为这样的系统是不道德的，永远不该被建立

1.2. 自主57的讨论大多源于战争中使用得越来越频繁的无人机

1.3. 无人机

1.3.1. 人驾驶的飞机，在菌用领域，它可以携带导弹等57

1.3.2. 因为无人机不用搭载人类飞行员，所以它比传统飞机更小巧、更轻便、造价更低

1.3.3. 无人机的飞行不会给遥控它的人带来风险，因此它可以被用于飞往危险区域执行任务

1.3.3.1. 由于控制无人机的驾驶员没有亲身涉险，他们可能会采取一些实际在场的情况下不会采取的行为

1.3.3.2. 最重要的是，人们不会像自己亲临现场那样认真对待行为的后果

1.3.4. 对于菌事组织来说，这自然是一个富有吸引力的选择

1.3.4.1. 自2001年以来，米国一直在对阿富汗、巴基斯坦和也门的菌事行动中使用菌用无人机

1.3.5. 无人机不再被遥控，意味着很大程度上，它们不再需要人类的引导或者说干预来执行任务

1.3.5.1. 作为执行任务的一部分，它们可能有权决定是否夺走人类的性命

1.3.5.2. 人工智能驱动自主57是完全可能实现的

1.4. 拥有自主57的国家可能不太介意发动战争，因为他们的部队不需要亲自上前线

1.4.1. 自主57可能使得发动战争的决定变得更加容易，使得战争更加普遍化

1.5. 最常见的反对意见是，自主57是不道德的：人们不能制造能够决定夺走人类性命的57，这是错误的

1.6. 罗恩·阿尔金(Ron Arkin)教授

1.6.1. 他认为自主57的出现肯定是不可避免的(总会有某个人，或者某个机构将它们最终制造出来)，因此，最好的对策是思考如何设计它们，使它们的行为比普通人类兵士更合乎道德

1.6.2. 人类兵士在道德方面并没有很好的记录

1.6.3. 不可能出现拥有“完美道德”的人工智能自主57，尽管如此，阿尔金教授仍然相信，我们能够制造出比人类兵士更有道德的自主57

1.7. 让机器人去从事卑鄙的战争事业，总比让人类去打仗更好：战争的赢家往往是拥有更优秀机器人的一方

1.7.1. 问题就变成了如何确保我们拥有更好的机器人

1.8. 当一架B-52轰炸机在5万英尺的高空飞行，释放炸弹的时候，负责释放炸弹的投弹手并不清楚他们投下的32吨的炸弹将落到何处，也不知道它会落到谁身上

1.8.1. 为什么人们要反对能够精准sha人的自主57，而不反对这样随意sha戮的常规57轰炸？

1.8.2. 答案是我们应该同时反对它们

1.8.3. 但实际上，常规轰炸确实没有像自主57那样引起这么多的道德争议

1.9. 致命的自主57既危险又不道德

1.9.1. 从纯粹实际的角度来看，仅仅试图在57开发领域禁用人工智能技术基本上不太现实

1.9.2. 立法禁止某种特定的人工智能技术使用，比如神经网络，那就更不现实了，因为软件开发人员可以很轻易地在代码中掩饰使用的技术

2. 算法偏见

2.1. 是指计算机程序——不仅仅是人工智能系统，而是任意计算机程序——在其决策过程中表现出某种形式的偏见的情况

2.2. 造成两方面的伤害问题

2.2.1. 分配伤害

2.2.1.1. 分配伤害体现在某个群体在某些资源方面被拒绝(或优待)的时候

2.2.2. 代表性伤害

2.2.2.1. 通常发生在系统产生强化刻板印象或者偏见时

2.3. 机器最重要也是单一的获取信息途径是数据，偏见就是通过数据引入的

2.3.1. 机器学习程序使用数据进行训练，如果数据本身就存在偏差，那么程序也将学习数据中隐含的偏见，而训练数据本身就可能存在不同程度的偏差

2.4. 构建数据集的人本身就是带有偏见的

2.4.1. 他们会在数据集中嵌入这类偏见，可能不会太明确，也可能是无意识的

2.5. 如果机器学习程序的训练数据不具有代表性，那么该程序的决策将不可避免地被扭曲

2.6. 当前人工智能系统大多采用机器学习的方式构建，机器学习的特点是“黑盒”：它无法用人类能够理解的方式解释或者说明它的决策

2.6.1. 训练结果是看上去它能够得出和人类专家相同的结果，所以人们就武断地相信人工智能系统不会出错，并且毫不犹豫地信任它的决策，而不进行深入思考

2.7. 最关键的是，要用正确的方式获取数据

3. 多样性缺乏

3.1. 男性人工智能

3.1.1. 人工智能领域的男性主导现象仍然存在：缺乏多样性仍然是人工智能现阶段面临的一个棘手问题，就如科学和工程学科诸多领域一样

3.2. 男性主导的研究领域将使潜在的女性科学家感到反感，从而扼sha了这一领域潜在的宝贵人才

3.3. 数据缺口：通常用于制造和设计的历史数据集绝大多数是以男性为导向的

3.3.1. 大部分历史记录的数据都是有缺陷的

3.3.2. 古时候狩猎都是由男性来完成的，以往的历史写作者根本没有给女性留下多少空间

3.3.3. 办公室空调温度标准是为男性设定的，让女性在办公室里瑟瑟发抖

3.3.4. 女性在超市里挣扎着想够到按照男性身高标准设计的货架顶层等

3.3.5. 它们不危及生命，不像一辆汽车的安全设施没有考虑到女性的身体尺寸，不像心脏病发作的时候得不到救治和诊断

3.4. 女性每天都生活在围绕着男性的数据构建的世界中，带来的后果可能是致命的

3.5. 对于人工智能而言，数据是必不可少的，但数据集里男性偏见是普遍存在的

3.6. 偏见本来就是人工智能中存在的问题，对女性而言，这个问题更具有特殊性

4. 假新闻

4.1. 假新闻就是将虚假的、不准确的或者误导性的消息当作事实，并以新闻的方式呈现

4.1.1. 在数字时代之前，世界上就存在大量的假新闻源，但是互联网，尤其是影响巨大的社交媒体，却成了传播假新闻的完美渠道

4.2. 社交媒体的存在是让人们可以方便地彼此联系，现代社交媒体平台在这方面取得了惊人的成功

4.2.1. 西方的脸书和推特，还有东大的微信，都有着大量的用户基础

4.2.2. 所有的社交媒体平台都依赖于你在它们上面消磨了多少时间

4.2.2.1. 这就给了平台向你展示广告的机会，而这也是平台最终盈利的方式

4.3. 人工智能是假新闻的重要组成部分，因为它对假新闻的传播方式至关重要

4.3.1. 人工智能在其中所起的作用是根据你的点赞、评论，以及你点击的相关阅读链接等行为去分析你的偏好，然后寻找到你也许会喜欢的新消息

4.4. 证实性偏见

4.4.1. 一个充满了暴力视频和种族主义新闻的世界，他不会得到多渠道的、公正的信息，他将深陷于自己的社交气泡中，对自己的世界也会存在偏见，并且偏见还会因此得到加强

4.5. 从长远来看，我们看待世界的根本角度有可能被人工智能改变

4.5.1. 每个人都通过自己的感官(视觉、听觉、触觉、嗅觉和味觉)获取关于世界的信息，并利用这些信息建立对现实的一致看法

4.5.2. 对世界实际情况的描述和可以被广泛接受的看法

4.6. 增强现实(Augmented Reality， AR)应用

4.6.1. 它们获取真实的世界，并在其上覆盖计算机生成的信息或图像

4.6.2. 如果应用程序不仅仅是增强现实，而是完全改变现实，甚至使用户根本察觉不到这种改变

4.6.3. 从根本上改变了他认知世界的方式，从而操纵他的信仰，那会发生多么恐怖的事情

4.7. 如果我们都居住在自己的私人世界里，那共识现实又有什么意义呢？

4.7.1. 你和我不再有相同的、共通的经验来建立共识

4.8. 如果我们每个人都居住在自己特有的、由人工智能驱动的数字世界里，那么建立在共同价值观和原则之上的社会将面临真正的危险

4.8.1. 社交媒体上的假新闻，只是一个开始

5. DeepFakes

5.1. 一款人工智能换脸工具，可以通过换脸技术，让图片或者视频中出现根本没有出现过的人

5.2. 负面影响最大的案例发生在2019年，米国众医院议长Nancy Pelosi的一段讲话被篡改，让人觉得她有语言障碍，或者可能受到毒品或酒精的影响

5.3. 也被用来修改涩请视频，在视频中加入实际上没有参与的“演员”

5.4. 照片和视频将不再是对某一事件的原始可靠记录

6. 人工智能造假

6.1. 造假在人工智能的边缘领域太普遍了，这让人工智能研究人员非常沮丧

6.2. 人工智能造假，主要是人们被误导了，相信他们看到的就是真正的人工智能，而事实上，这些幕后都只是一些把戏而已

6.3. 如果人工智能初创公司不能让他们的技术在关键的成果展示中发挥作用，他们就会在幕后使用假人工智能来糊弄

6.4. 人工智能造假对每个人来说都是实实在在的问题，也是对人工智能研究界的莫大伤害