机器人要承担刑事责任吗

　　——回应人工智能时代的法治新课题

　　本报见习记者 陈瑜

　　不论是弱人工智能时代，还是强人工智能时代，人工智能与大数据对法学和法律实践所造成的变革都已是不争的事实。法学研究对人工智能时代所提出的新课题的回应，将会为未来的司法实践赢得主动权。

　　关于人工智能和法律，前美国国家安全顾问和国务卿基辛格在近日发表于 《大西洋月刊》的文章中曾谈及一个自动驾驶汽车版本的 “电车难题”：如果自动驾驶汽车因突发情况，被迫在杀害老人和杀害孩子之间作出选择，它会选择谁？为什么？再进一步思考，如果这辆汽车撞死撞伤了人，谁又该为此负刑事责任？是这辆车，还是这辆车的设计者？

　　这个假设的场景只是人工智能面对法律问题的一个缩影。伴随着人工智能和大数据技术的迅速发展，一系列类似的问题也接踵而来：人类生产生活方式的深刻变革将会给法律制度和社会治理带来哪些挑战？现行法治体系又该如何调整和应对？近日，由华东政法大学人工智能与大数据指数研究院主办，上海市大数据社会应用研究会和律新社协办的“人工智能、国家治理与法治论坛”在华东政法大学举行，与会专家们针对上述问题展开了讨论，为我们勾勒了人工智能时代下法治世界的图景。

　　人工智能如何实现未来的精准法治

　　在美剧《西部世界》中，主角福特有一句著名台词：“我们给机器编码，是为了解码人类。”在人工智能时代，随着越来越多的社会活动转移到互联网上进行，人们在互联网上留下海量数据，使得原本不可预测和追踪的社会行为变得可以被计算。无论是对企业的经营还是政府的管理来说，这种“社会的计算化”都意义重大：企业可以通过分析客户数据、投放定制化广告来兜售自己的产品，政府可以利用海量数据对个人进行分类、评分和社会信用评级来实现预测性执法，从而更好地进行精准化治理。

　　但是，由于如今的“社会计算化”主要由商业力量推动和控制，这给政府的治理工作带来了新的问题。上海交通大学凯原法学院教授郑戈就指出，传统上人们认为，政府掌握了最充分的个人数据，从出生、入学、就业、婚姻、生育到死亡，但这些数据都是静止的，它并不能生成对一个人动态的行为模式的分析。现在，由于人的大部分线上活动不是在政府平台上进行，而是在搜索引擎、购物平台、社交网络等由私人企业运营的商业平台进行，因此大量的数据实际是掌握在私人企业手里。政府虽然可以在行政、司法和执法的过程中要求企业提供特定的个人数据，但这种要求只能在具体个案中针对特定人物，不能成为可供机器学习的大数据。而且，也可能遭到企业以保护商业秘密或合同关系为由的拒绝。

　　郑戈的担忧并非空穴来风。在近日发生的“女孩坐滴滴顺风车遇害案”中，滴滴公司就以保护司机隐私为由，未在第一时间向警方提供车牌、驾驶人信息，致使救援行动延误。更为“讽刺”的是，滴滴一方面拒绝与政府合作披露用户信息，另一方面又偷偷地滥用用户的个人信息，典型的例子即是前不久因“空姐遇害案”引发争议而下线的顺风车用户标签和车主评价功能。

　　“从法律的角度来看，我们在考虑人工智能在所谓的精准治理中的应用时，首先要面对的就是政府和企业的关系问题——政府既需要与企业合作来获取数据、购买产品和服务，又需要作为企业与消费者之间的中立第三方来对企业进行监管，保护消费者的个人数据。”在郑戈看来，基本公共服务领域的公、私权力关系是未来治理需要解决的首要问题：“一方面，要将透明、公开、程序合法、说明理由等对公权力行使者的要求延伸到实际上行使着 ‘准公权力’的企业，使算法等技术化的监控和决策手段不再是无法被问责的‘黑箱’；另一方面，要调整传统的公法概念和规制手段，以应对现时代公私合作、公私共治的普遍现象。”

　　人工智能可以替代法律工作者吗

　　如今，“智慧司法”已然是大势所趋：已在上海市全面推广应用、覆盖上海刑事案件的90%以上的“刑事案件智能辅助办案系统”，就是人工智能新科技和司法改革深度融合的典范。在对上海几万份刑事案件的卷宗、文书数据进行“深度学习”后，该系统已具备初步的证据信息抓取、校验和逻辑分析能力。今年8月，一场法律界的“人机大赛”在重庆举行，由重庆研发的人工智能法律机器人“大牛”与从全国公开招募的6名资深律师进行了法律服务比拼，比赛结果令人瞠目结舌——“大牛”的得分远远高于这6位资深律师。

　　上述这些例子都表明，法律从业人员的许多具体工作可以被人工智能所取代，这是否意味着人工智能会全面取代法律工作者？答案显然是否定的。“人工智能所体现的技术理性有明显的化约主义倾向，我们可以借助它来提高效率，取代一部分无需创造性和价值判断的工作，比如闯红灯罚款，但不能由它来做出事关人类福祉的最终决策。在涉及事实争议和价值选择的复杂问题上，人工智能只能被用来强化人类智能，而由人来作出最终的选择和判断。”郑戈这样说。

　　上海市法学会党组书记崔亚东则进一步指出：“在未来的法律人才培养上，一方面要在高校设立法律人工智能研究中心，开设相关法律科技等方面的课程，培养法律和科技的复合高端人才。另一方面，我们也要明确在人工智能时代，法学教育的主业仍然是法律，人工智能的引入应该是辅助法律从业人员更加高效、便捷、公正公开地处理法律事务，至于这个证据能不能用、怎么用，如何量刑等问题，最终的决定权仍在法官、检察官手中，这一点决不能走偏。”