人工智能时期法治新课题机器人要承当刑事责

　　人工智能时代法治新课题：机器人要承担刑事吗？

　　 11:19来源://

　　原标题：人工智能时期法治新课题：机器人要承担刑事吗？

　　本报见习 陈瑜

　　不论是弱人工智能时期，还是强人工智能时代，人工智能与大数据对法学和法律实践所造成的变革都已是不争的事实。法学研究对人工智能时期所提出的新课题的回应，将会为未来的司法实践赢得主动权。

　　关于人工智能和法律，前美国国家安全顾问和国务卿基辛格在近日发表于 《大西洋月刊》的文章中曾谈及一个自动驾驶汽车版本的 “电车难题”：如果自动驾驶汽车因突发情况，被迫在杀害老人和杀害孩子之间作出选择，它会选择谁？为何？再进一步思考，如果这辆汽车撞死撞伤了人，谁又该为此负刑事？是这辆车，还是这辆车的设计者？

　　这个假设的场景只是人工智能面对法律问题的一个缩影。伴随着人工智能和大数据技术的迅速发展，一系列类似的问题也接踵而来：人类生产生活方式的深刻变革将会给法律制度和社会治理带来哪些挑战？现行法治体系又该如何调剂和应对？近日，由华东政法大学人工智能与大数据指数研究院主办，上海市大数据社会运用研究会和律新社协办的“人工智能、国家治理与法治论坛”在华东政法大学举行，预会专家们针对上述问题展开了讨论，为我们勾勒了人工智能时期下法治世界的图景。

　　人工智能如何实现未来的精准法治

　　在美剧《西部世界》中，主角福特有一句著名台词：“我们给机器编码，是为了解码人类。”在人工智能时期，随着越来越多的社会活动转移到互联上进行，人们在互联上留下海量数据，使得本来不可预测和追踪的社会行为变得可以被计算。无论是对企业的经营还是政府的管理来说，这种“社会的计算化”都意义重大：企业可以通过分析客户数据、投放定制化广告来兜售自己的产品，政府可以利用海量数据对个人进行分类、评分和社会信用评级来实现预测性执法，从而更好地进行精准化治理。

　　但是，由于如今的“社会计算化”主要由商业气力推动和控制，这给政府的治理工作带来了新的问题。上海交通大学凯原法学院教授郑戈就指出，传统上人们认为，政府掌握了最充分的个人数据，从出身、入学、就业、婚姻、生育到死亡，但这些数据都是静止的，它并不能生成对一个人动态的行为模式的分析。现在，由于人的大部分线上活动不是在政府平台上进行，而是在搜索引擎、购物平台、社交络等由私人企业运营的商业平台进行，因此大量的数据实际是掌握在私人企业手里。政府虽然可以在行政、司法和执法的进程中要求企业提供特定的个人数据，但这类要求只能在具体个案中针对特定人物，不能成为可供机器学习的大数据。而且，也可能遭到企业以保护商业秘密或合同关系为由的拒绝。

　　郑戈的耽忧并不是空穴来风。在近日发生的“女孩坐滴滴顺风车遇害案”中，滴滴公司就以保护司机隐私为由，未在第一时间向警方提供车牌、驾驶人信息，致使救援行动延误。更加“讽刺”的是，滴滴一方面拒绝与政府合作表露用户信息，另一方面又偷偷地滥用用户的个人信息，典型的例子即是前不久因“空姐遇害案”引发争议而下线的顺风车用户标签和车主评价功能。

　　“从法律的角度来看，我们在考虑人工智能在所谓的精准治理中的应用时，首先要面对的就是政府和企业的关系问题——政府既需要与企业合作来获得数据、购买产品和服务，又需要作为企业与消费者之间的中立第三方来对企业进行监管，保护消费者的个人数据。”在郑戈看来，基本公共服务领域的公、私权利关系是未来治理需要解决的首要问题：“一方面，要将透明、公开、程序合法、说明理由等对公权力行使者的要求延伸到实际上行使着 ‘准公权力’的企业，使算法等技术化的监控和决策手段不再是无法被问责的‘黑箱’；另一方面，要调剂传统的公法概念和规制手段，以应对现时代公私合作、公私共治的普遍现象。”

　　人工智能可以替换法律工作者吗

　　如今，“智慧司法”已然是大势所趋：已在上海市全面推行应用、覆盖上海刑事案件的90%以上的“刑事案件智能辅助办案系统”，就是人工智能新科技和司法改革深度融会的典范。在对上海几万份刑事案件的卷宗、文书数据进行“深度学习”后，该系统已具备初步的证据信息抓取、校验和逻辑分析能力。今年8月，一场法律界的“人机大赛”在重庆举行，由重庆研发的人工智能法律机器人“大牛”与从全国公开招募的6名资深律师进行了法律服务比拼，比赛结果使人瞠目结舌——“大牛”的得分远远高于这6位资深律师。

　　上述这些例子都表明，法律从业人员的许多具体工作可以被人工智能所取代，这是不是意味着人工智能会全面取代法律工作者？答案明显是否定的。“人工智能所体现的技术理性有明显的化约主义偏向，我们可以借助它来提高效率，取代一部分无需创造性和价值判断的工作，比如闯红灯罚款，但不能由它来做出事关人类福祉的最终决策。在涉及事实争议和价值选择的复杂问题上，人工智能只能被用来强化人类智能，而由人来作出终究的选择和判断。”郑戈这样说。

　　上海市法学会党组书记崔亚东则进一步指出：“在未来的法律人才培养上，一方面要在高校设立法律人工智能研究中心，开设相干法律科技等方面的课程，培养法律和科技的复合高端人才。另一方面，我们也要明确在人工智能时代，法学教育的主业依然是法律，人工智能的引入应该是辅助法律从业人员更加高效、便捷、公正公然地处理法律事务，至于这个证据能不能用、怎么用，如何量刑等问题，最终的决定权仍在法官、检察官手中，这一点决不能走偏。”

　　人工智能偏离人类的预设怎么办

　　美国波士顿动力公司曾设计出一款可以 “随机应变”的机器人：给它设定一个“搬箱子”的任务，无论实验人员怎么妨碍它（把箱子移到别处，或者直接把机器人推倒），它还是会“顽强地”爬起来完成任务。但是，有学者担心，给机器人植入一个 “排查妨碍”的程序，如果它突然产生意识、学会自我学习，它发现每次害自己完不成任务的人是这个实验人员，那它会不会为了完成任务直接把这个实验人员撂倒？可见，当智能机器人被设定为一种由程序编码而成并由此产生深度学习能力的物体时，它完全有可能超越人类对它的预设，独立实行某些犯罪行为，这就对现有的刑罚体系产生了冲击。

　　对此，华东政法大学刑事法学研究院院长刘宪权教授在他的新书《人工智能时期刑事的演变》中指出，人工智能已远远不是作为犯法工具那末简单，它影响着刑事的分配。他这样说：“现在一般将人工智能时代分为3类：前人工智能时期、弱人工智能时期、强人工智能时代。前人工智能时代中的机器人，我们称之为普通机器人，比较典型的是atm机和工业机械手。如果atm机出了问题，我们不太可能去追究它的研发者和使用者。但在我们正处于的弱人工智能时期中，在自动驾驶技术日趋普及的当下，我们对研发者和使用者的定义就有了很大变化。比如，委内瑞拉无人驾驶的炸药，还有韩国的杀人机器，从法律的角度来看，这应当是研发者的。未来，如果强人工智能时期到来，机器人拥有了自由意志，就需要独立承当刑事。”尽管目前在“强人工智能时代是不是会到来”这1问题仍有很大的争议，但刘教授认为法律工作者的态度应是宁可信其有、不可信其无：“我们必须预先设定一些应对的法律，否则一旦强人工智能时期到来，关于人类的颠覆性问题就会出现，甚至到时候，不是人类制定法律规制它，而是它制定法律规制人类，这并不是天方夜谭。”

　　类似地，《华东政法大学学报》主编马长山教授也强调了要对现有法学理论进行颠覆性创新来应对眼下的这场人工智能革命，他指出：“这个重建分为以下几个方面：1是研究理念的转向。我们传统的研究理念是建立在以罗马法学为基础的法律体系，罗马体系是以人和人、人和物的关系为重要基础，但随着生产关系的变化，当下的智能社会是以数据、信息、算法为基础，这意味着全部生产管理和人们的生活方式都产生了巨大变化，沿用传统的理念可能无法解决许多问题。二是知识谱系的更新。现代法律体系是建立在理性主义和个人主义的基础之上，但现在社会发展的去中心化、扁平化趋势使得原先的‘理性人假定’等基础理论被颠覆。此外，如果将来机器人产生意识，我们还需重新斟酌主客体关系。三是理论与逻辑的重建。我们现在处理一些络信息、人工智能的案件是完全套用原本物理空间的逻辑而进行，但存在许多问题，比如络赌博案件，很难找到适合的管辖范围，因此必须重建适用于智能互联时代的新逻辑。”

　　由此可见，不论是弱人工智能时期，还是强人工智能时期，人工智能与大数据对法学和法律实践所造成的变革都已是不争的事实。法学研究回应人工智能时代提出的新课题，将会为司法实践赢得主动权。未来已来，法律工作者们将手执正义女神朱斯提提亚的长剑，用法治为人工智能的健康发展护航。