2019年人工智能的六大潜伏危险

　　2019年人工智能的六大潜伏危险

　　 14:57来源:固华智能//

　　原标题：2019年人工智能的六大潜在危险

　　曾，人们对超智能机器占领人类世界的未来忧心忡忡。世界在过去的一年表明，不必等到超智慧机器人的出现，人工智能就可能造成各种危害。

　　最新的人工智能方法在诸如图象分类和语音转录等感知任务上表现出色，但对这些技能的炒作和兴奋掩盖了我们离制造像我们这样聪明的机器还有多远。从2018年开始的六个争议突显，即便是最聪明的人工智能算法也可能行动不端，或者不当心运用它们而导致可怕的后果。

　　1.自毁的汽车

　　在三月份uber的1辆自动驾驶汽车发生致命事故后，调查人员发现，该公司的技术发生了灾难性的故障，而这类故障很容易预防。

　　优步在美的自动驾驶事故

　　福特和通用汽车等汽车制造商、优步（uber）等新来者和一批初创企业正忙着将一项技术商业化，尽管这项技术还不成熟，但其投资已达数十亿美元。作为alphabet的子公司，韦莫公司取得了最大的进步；它去年在亚利桑那州推出了第一个完全自主的出租车服务。但即便是韦莫公司的技术也有限，而且自动驾驶汽车在任何条件下都不能到处行驶。

　　2019年要注意的是：迄今为止，美国和其他国家的监管机构都采取了不动手的做法，担心扼杀创新。美国国家公路交通安全管理局乃至表示，现有的安全规则可能会放宽。但行人和司机还没有注册成为豚鼠。2019年的另外一次严重事故可能会改变监管机构的态度。

　　2. 纵机器人

　　今年 月，有消息称，咨询公司利用facebook的数据同享做法影响了2016年美国总统选举。由此引发的骚动表明，决定在社交媒体上出现什么和信息的算法是如何进行博弈的，以放大错误信息，破坏健康的辩论，并将持有不同观点的公民隔离开来。

　　大数据的新型误传技术

　　在美国国会听证会上，facebook首席执行官马克.扎克伯格许诺，尽管人工智能还远不能理解文本、图象或视频的含义，但人工智能本身可以接受识别和阻止恶意内容的入侵。

　　2019年要注意的是：扎克伯格的承诺将在南非和尼日利亚这两个非洲最大的国家举行的选举中受到考验。到2020年美国大选的长期准备也已开始，这可能会激起由人工智能驱动的新型误传技术，包括歹意聊天机器人。

　　3.和平算法

　　去年，当谷歌员工得知他们的雇主正在向美国空军提供用于分类无人机图象的技术时，一场人工智能和平运动开始成形。工人们担心，这可能是为实现致命无人机打击自动化提供技术的决定性一步。作为回应，该公司放弃了相干项目，并创建了一个人工智能道德规范。

　　分类无人机图像技术

　　学术界和工业界的重量级人物支持一项禁止使用自主武器的运动。但是，人工智能的军事使用只是在增长势头，而其他公司，如微软和亚马逊，对帮助他人毫无保留。

　　在2019年要注意的是：尽管美国五角大楼在人工智能项目上的开支在增加，但活动家们希望在今年的一系列联合国会议上出台一项禁止自主武器的先发制人条约。

　　4.监视对抗

　　人工智能辨认人脸的超人能力使各国以惊人的速度部署监控技术。人脸辨认还允许您解锁，并在社交媒体上自动为您标记照片。

　　人脸识别技术

　　机构宣称，这项技术是一种侵入人们隐私的强大方式，而测试数据的偏见使其极可能自动进行轻视。

　　2019年要注意什么：人脸识别将传播到车辆和络摄像头上，它将被用来跟踪你的情绪和你的身份。

　　5.伪装直到你把它弄坏

　　去年大量的“deepfake”视频显示了使用人工智能制作假视频是多么的容易。这意味着虚假的名人 片，许多奇异的电影混搭，和潜在的狠毒的政治诽谤运动。

　　生成性对抗络（gans）包含两个相互对抗的神经络，可以产生非常逼真但完全由图象和视频组成的效果。nvidia最近展示了gans如何生成你想要的任何种族、性别和年龄的真实照片。

　　2019年要注意的是：随着深海生物的改良，今年人们可能会开始被它们欺骗。国防高级研究计划局将测试新的探测深凹处的方法。但由于这也依赖人工智能，所以这将是一个猫和老鼠的游戏。

　　6.算法辨认

　　去年在许多商业工具中发现了偏差。在不平衡数据集上训练的视觉算法无法辨认女性或有色人种；根据历史数据制定的雇佣计划被证明是对已经存在的歧视的延续。

　　算法辨认偏差

　　与偏见和更难解决的问题有关的是全部人工智能领域本身缺乏多样性。女性最多占据了 0%的行业工作岗位，在顶尖大学的教学岗位上所占比例不足25%。黑人和拉丁语研究者相对较少。

　　2019年的预期：我们将看到检测和减轻偏差的方法，和从有偏差的数据中产生无偏结果的算法。国际机器学习会议是一个重要的人工智能会议，将于2020年在埃塞俄比亚举行，由于研究偏见问题的非洲科学家可能难以取得前往其他地区的签证。

　　南京固华智能科技有限公司，致力于变革传统工业，专注于工业智能的研发、设计、生产、销售 和服务，为客户量身定制高效、柔性、安全的智能化设备、自动化生产线及智慧工厂解决方案， 是中国领先的智能制造服务商。

　　：

　　声明：该文观点仅代表作者本人，搜狐号系信息发布平台，搜狐仅提供信息存储空间服务。

　　阅读 ()