[法治日报]“人工智能与刑法的对话：AI时代诈骗犯罪的理论与实务问题研讨会”在京举行

10月11日，首师大政法学院举办的一场聚焦法学前沿、引领学术潮流的学术研讨会——“人工智能与刑法的对话：AI时代诈骗犯罪的理论与实务问题研讨会”在京举行。首都师范大学政法学院院长吴高臣主持开幕式。 首都师范大学党委书记缪劲翔指出，政法学院在人工智能时代的来临这个前提下，立足法学研究的本位，积极研究交叉学科所带来的新的制度治理难题，符合学校发展和学科发展的需求。 中国法学会副会长姜伟提到，人工智能是一把双刃剑，既可以提高社会生产力，也给社会治理带来新的风险，作为技术工具，价格低廉容易操作，迭代速度远超监管部门的反应速度，几乎可以触及社会各领域的法益。《中共中央关于进一步全面深化改革、推进中国式现代化的决定》明确要求完善生成式人工智能发展和管理机制也就成了应有之义。 研讨会第一单元“AI时代诈骗犯罪的理论问题研讨”由北京师范大学教授黄晓亮主持。 北京外国语大学法学院教授王文华认为，AI诈骗问题不仅是刑法问题，更多的还延伸到前置法的问题，即具有外扩性，是一个技术治理的问题，同时也是商业、产业逻辑的问题。只有将AI置于不同的应用场景，才能具体确定应用AI平台是否进入了诈骗犯罪的规制领域。 中国人民大学法学院教授付立庆认为，我国刑法第二百六十六条诈骗罪的罪状描述是极为简约的，若放弃对欺骗行为的限缩，过度扩张诈骗罪法网范围的后果是：诈骗罪的构成要件丧失定型性和罪刑法定主义机能，其与盗窃罪的区分将变得极为困难。 北京航空航天大学教授孙运梁认为，法学概念要着重考量其本身概念特征，一方面它要比日常生活概念更规范，另一方面它也达不到科学概念能够测量的程度。具体到诈骗罪的领域，传统法学中“占有”和“财产处分”的概念就受到了冲击，很多争论与分歧其实就来源于概念的流变，这需要学者们审慎观察。 北京大学法学院文科一级教授陈兴良点评时表示，此前他对人工智能犯罪的研究方向有一点“跑偏”的担心，但在对相关领域进行了解以及参与本次研讨会的基础上产生了几点新的想法：第一，刑法学者应当积极应对人工智能犯罪时代的到来，刑法理论研究应当有所作为；第二，在探讨人工智能犯罪问题时，要区分弱人工智能和强人工智能，前者只有在将其作为犯罪的工具考察时才有意义，至于强人工智能的犯罪主体性能否成立问题，我们可以做适度的预见性研究，但不能将研究基础完全放在幻想上，这样会导致研究走向没有根基的“科幻法学”。 北京师范大学教授卢建平用《猫和老鼠》动画片做了一个比喻，认为我们的研究不能仅局限于“猫捉老鼠”的追赶式治理，要进行一定的前瞻性研究，相信人类的智慧，从人类的基本理性出发去做前瞻性的思考，当然，也要承认人类普遍理性的固有局限。他又举了电影《机械姬》中所涉及的阿西莫夫机器人三定律作为点评的未来展望，并作出了期待“后浪们”作为新一代“深度学习机器”带来新成果的结束语。 研讨会第二单元“AI时代诈骗犯罪的实践问题研讨”由首都经济贸易大学副教授刘传稿主持。 北京市公安局警官杨燕燕介绍，盗取采集自然人音视频信息生成的视频为重灾区，所以大家在接到诈骗分子电话和视频的时候应该及时挂断，不宜再和以往一样抱着“逗一逗”的心情与诈骗犯罪“周旋”，这样会增加自己音视频被盗取然后用于犯罪的风险。从实务经验来看，已经出现了几乎可以反向欺骗“图灵测试”的人工智能，强人工智能乃至超人工智能的到来可能比我们预想得更快。 北京市公安局警官孟凡芹提到，目前警方有关人工智能的业务就包括大模型的测评，北京地区作为高校和研究机构重镇，产出了许多大模型，公安机关都需要配合网信办对其进行安全测试，包括测试平台和专家审核的模式。 北京尚梓律师事务所律师李红钊认为，有必要将人工智能做弱人工智能与强人工智能的区分。不能对超人工智能的刑事责任采取简单的否定说或肯定说，因为其设计者和产品本身都具备自由自主决定并实施行为的能力，应该采取二元限制刑事责任结构较为合理。 北京市朝阳区人民检察院检察官石林山从案例出发，让与会者有了更为直观的感受。其中一起案件涉及跨境电信诈骗，田某通过加密软件与境外电诈团伙取得联系，伙同团伙在北京市朝阳区多个酒店辗转，假设维护手机口的设备，为境外电诈分子提供通讯传输帮助，最后查证田某等人手机号关联到的诈骗金额为100多万元。该案件事实简单，但实际办理并不简单。首先是上游犯罪在境外与犯罪分子频繁更换地点、手机号等导致的破案难；其次是证据的收集与金额认定难；再次是对于主观明知的认定，本案的主要犯罪嫌疑人都不能主动供述，嫌疑人之间也不会谈及具体作案情况，很难通过聊天记录等客观证据来印证主观明知，办案人员从初犯偶犯进行突破，通过口供和部分聊天记录相互印证的方式来综合证明；最后是罪名认定问题，公安机关移送的罪名是帮助信息网络犯罪活动罪，检察院的起诉书中还包含了对诈骗罪的指控。该案最终被评为2023年度电信网络诈骗的典型案件，对于之后可能出现的类似案件的侦办也起到了很大程度的帮助与指引。 北京市第二中级人民法院法官杨子良主要探讨的是在现有的法律框架下，有些罪名能不能够用来应对AI时代的诈骗犯罪。第一个罪名是提供侵入、非法控制计算机信息系统程序、工具罪，生成式人工智能虽然不属于专门用来犯罪的工具，但刑法第二百八十五条第3款规定的罪状从文义理解上可以将其囊括进去，在司法实务中也可以检索到相关生效裁判，例如全国首例的“AI外挂”案。第二个罪名是帮助信息网络犯罪活动罪，杨法官认为认定提供者“明知”是符合事实的，依据是充分的，即使需要平衡科技创新和风险防范，也应当是在法律框架下进行。第三个罪名是拒不履行信息网络安全管理义务罪，对于人工智能的提供者来说，目前出台了新的法规与司法解释，为其设置了相应的义务，该罪名的适用，对于打击防范也能起到一定的作用。 北京理工大学教授彭海青介绍，AI诈骗呈现出手段多样化、精准高效性与隐蔽性三个特点，受害群体有着年轻化趋势，且除了经济损失严重外，还存在着心理创伤与社会信任危机。技术应对不足、跨部门协作不畅、法律法规滞后与公众防范意识薄弱是目前所面临的治理困境，并且提出相应的措施。 清华大学法学院院长、全国人大常委会委员、宪法和法律委员会副主任委员周光权对本次会议进行了点评。周光权认为，无论人工智能技术多么强大，它都不能成为独立的犯罪主体或是独立承担侵权责任。刑法学中讲责任主义、罪责原则的时候，包含了宪法的要求，即宪法尊重个人有自己独立的意识，因此要为自己的行为负责，而机器通过分析数据来学习，其所谓的“意志”，实际上是生产者使用者灌输的。将机器视为犯罪主体，违背了宪法基本要求，是对刑法教义学的一些基本原理和底线的冲击，也与法学上的自由意志相矛盾，再高级的人工智能，追根溯源仍然是人的价值取向与选择。人工智能技术，它确实对犯罪学思维和刑法学思维怎么紧密地结合起来提出了新的考虑，面对人工智能提出来的这些新的问题，我们不禁去思考教义学是不是需要调整？总的来讲，教义学确实要认识到犯罪学当中所提的一些基本理念，比如说犯罪是正常的，虽然这令人遗憾。犯罪同样对这个社会有一些正面的功能。犯罪一个现实的功能就是让我们在发展人工智能技术的同时，要想到这个技术有可能有什么漏洞，可能被犯罪分子利用，那就要把这些补丁都打出来，这对于法律的发展，无疑起着推动的作用。 （原文刊载于《法治日报》2024年10月16日第11版。） 原文链接：[法治日报]“人工智能与刑法的对话：AI时代诈骗犯罪的理论与实务问题研讨会”在京举行