从2023年初ChatGPT惊艳问世，到2024年初Sora引起全球关注，人工智能技术发展的脚步日益加快。不过与此同时，AI造谣、AI侵权、AI诈骗等乱象也纷至沓来。对此，众多学界、业界人士开始越来越多地探讨我国是否需要加快推动人工智能立法，以促进人工智能产业高质量发展。日前，法治网研究院邀请了清华大学智能法治研究院院长申卫星，西南政法大学人工智能法学院院长陈亮，南开大学法学院副院长陈兵，中国社会科学院大学互联网法治研究中心执行主任刘晓春，中国政法大学数据法治研究院教授张凌寒，《法治日报》律师专家库成员王渝伟律师，围绕相关话题展开一场深度对谈。
法治网研究院：目前，随着人工智能发展的脚步越来越快，各种乱象越来越凸显，看起来已经到了必须要“立规矩”的时候了。事实上，早在2017年，《国务院关于印发新一代人工智能发展规划的通知》就提出人工智能立法“三步走”战略目标，其核心要义是建构完善的“人工智能法律体系”。国务院2023年度和2024年度“立法工作计划”均将“人工智能法草案”列入预备提请全国人大常委会审议草案的范围。您认为，当前加快推动人工智能立法的条件成熟了吗？
申卫星：我认为人工智能立法的时机已经成熟。一是人工智能立法具有很强的必要性，人工智能产业的国际化贸易，需要我国人工智能立法构建公平、互信的法治保障。我们可以注意到，联合国等国际组织围绕人工智能治理出台了一系列文件，中国、欧洲、美国在对外经贸合作中，都把人工智能治理合作作为重要事项，其背后的原因，正是在于人工智能产品服务的全球化带来信任焦虑，各国普遍期待通过具有强制约束力的制度，来确保人工智能产品安全可靠，避免人工智能产品的滥用。
二是人工智能立法具有可行性，国内外人工智能立法经验储备充分，人工智能立法的制度需求也逐渐明确。近年来，国内外出台了一系列确保人工智能安全、促进人工智能在公共管理、社会服务等典型场景应用的政策法规，这些政策法规逐渐形成了算法透明度、高风险产品备案、风险监测、用户权益保护、训练数据合规、算力设施共享、高价值数据资源供给等一系列典型制度，基本确立了未来人工智能法要解决的主要制度。此外，自动驾驶、健康医疗等产业领域亟需人工智能规则为他们的产品上市提供合法性基础，这些现实的产业需求也需要人工智能立法解决。
刘晓春：人工智能相关的立法可以分成不同形式。第一种是全面系统的立法，第二种是根据亟需解决的问题针对性出台立法或者规定，第三种是在各个相关部门法领域分别进行立法立规或者修订相关条文。
目前来看，在某些领域，聚焦的问题已经比较稳定、清晰，也存在行业和相关主体都期待解决的规则不清晰问题。例如训练数据使用作品是否构成侵害著作权，人工智能产业链上各主体的相关法律责任认定标准，人工智能生成合成内容标识的标准和落地问题等。对于这些问题，目前相关行政部门、地方政府、司法机关都在直面并试图给出回答，分散式、渐进式的规则演进有可能无法满足行业发展需要的确定性需求，需要在立法上给出较为明确的答复。具体通过哪种方式来进行立法，倒是可以根据具体问题涉及的领域、立法成本和周期等考量，分别来进行斟酌和确定。
陈亮：我个人认为，制定“完备”的人工智能法律体系还需假以时日。所谓“完备”，至少意味着拟议的人工智能法，应该达到“对象明确、范围清晰、理论自足、逻辑自洽、体系完整”等基本要求，以便为我国人工智能执法、司法和守法给出清晰的指引。
遗憾的是，我们尚未充分把握人工智能的技术特征及其运行规律，学界对人工智能法的调整对象、适用范围、理念欲求、基本原则、主要制度与立法技术等关乎人工智能立法的重大理论和实践问题，均未达成令人满意的共识。与其匆匆忙忙搞一部漏洞百出的“急就章”，不如“让子弹飞一会儿”，借鉴我国民法典的成功经验，“批发改零售”，根据轻重缓急，推出人工智能单行法，成熟一部推出一部，最后化零为整，制定完备的人工智能法。
法治网研究院：您认为，中国人工智能立法应当遵循哪些基本逻辑？
陈兵：我认为应当遵循四大基本逻辑。一是应对技术不确定性的动态立法逻辑。中国人工智能立法，不仅要包容已知的技术形态与应用场景，还需预留足够的空间，以适应未来可能出现的新技术、新应用及其引发的新问题。适时修订与更新法律，确保法律与技术同步发展。
二是立足本土实践的制度创新逻辑。我国的人工智能立法，需紧密结合本土的技术产业发展现状、社会文化背景及法律传统，充分考虑中国特有的制度环境、市场需求与监管能力，实现制度创新与社会发展的良性互动，特别是要处理好系统集成与单点突破之间的平衡，处理好行业发展政策与宏观政策的一致性兼容，以及针对我国人工智能发展的短板，做好政府支持、多元协力。在强调创新发展、安全发展与普惠发展的同时，建立健全容错发展机制，为创新营造更加宽松的法治环境。
三是强化国际竞争的法治保障逻辑。在全球化的背景下，既要积极参与国际规则制定，推动形成公平、合理、包容的国际AI治理体系，又要维护国家主权、安全与发展利益，为中国AI企业“走出去”提供法治保障。
四是平衡技术发展与权益保护的法律伦理逻辑。中国人工智能立法需在促进技术发展的同时，充分保障公民的基本权利与自由。通过确立数据保护原则、算法透明度要求、责任追溯机制等，确保技术发展不侵犯个人权益，实现技术与社会的和谐共生。
申卫星：我认为，中国的人工智能立法主要是解决发展与安全的平衡关系。我们都知道“不发展是最大的不安全”，但是发展也一定要在健康有序的环境中才能行稳致远。我们在数字经济时代的发展，要避免在工业经济时代已经遭遇的“先污染后治理”陷阱，不可任由“子弹飞”。
这就面临在具体制度设计中，如何平衡促进创新和保障安全的关系。例如，在人工智能的透明度方面，要兼顾用户的知情权和企业的商业秘密保护；在训练数据方面，要兼顾破坏式创新发展的价值和传统产业的基本利益诉求；在风险识别处置方面，要兼顾风险治理的有效性和不确定性风险的包容性。人工智能立法要遵循技术发展规律，对于看得准的问题可以针对性提出治理规则，对于尚处于变化发展过程中的，则要留有拓展的空间，避免落后的监管方法跟不上快速发展变化的技术应用规律。
刘晓春：我认为需要深入思考三方面内容。一是要深入理解人工智能在中国亟需解决的重点问题是什么，进行问题解决型立法。
二是要研判中国人工智能产业发展的态势和在国际上的生态位，在产业发展现阶段秉持促进型、赋能型立法理念。
三是要确立合理的风险容忍理念和容错机制，允许产业进行先行创新型探索，进行边际上的容错纠错和风险调控，避免采取过度风险厌恶的态度，从而抑制创新的可能空间。
法治网研究院：今年8月1日，欧盟《人工智能法案》在整个欧盟范围内生效，这也是迄今为止全球首部对人工智能进行全面监管的法案。据了解，这部法案的出台，旨在提升欧盟人工智能产业的规范性和透明度，以人为本推动人工智能有序发展。您认为，欧盟《人工智能法案》对中国人工智能立法有哪些借鉴价值或者经验教训？
陈亮：在我看来，欧盟《人工智能法案》并非严格意义上的人工智能法，而是产品安全立法在人工智能领域的延伸或体现，其主要目的之一，是在人工智能系统投放市场或部署之前将其风险降至最低。
我个人认为，严格意义上的人工智能法，应该在明确“发展什么样的人工智能”并将其上升为立法理念的前提之下，着眼于人工智能各要素在发展人工智能中的地位与作用，公平、合理配置人工智能全生命周期各利害关系人的权、责、利，以确保人工智能法所追求的“发展什么样的人工智能”这一立法理念的实现。
张凌寒：欧盟期望能首先通过一部综合性、通用性《人工智能法案》开启治理体系的建设。该《人工智能法案》将人工智能风险等级划为四类，并扩大了人工智能高风险领域的分类范围，将对人们健康、安全、基本权利或环境的危害考虑在内；对高风险人工智能系统采取多项监管措施，并且新增规定了部署商的义务等。但欧盟对风险的认定标准和监管成本过高，与我国立法的标准体系难以完全兼容。风险规制既需反映当下迫切的治理需求，也需要留足应对未来发展与不确定性的空间。
事实上，各国高度重视人工智能立法对域外效力的争夺，如欧盟《人工智能法案》规定了属人、属地和实质判断等多个管辖标准，只要对欧盟市场提供产品或者开展服务，或其产品的输出物有可能在欧盟被销售，甚至位于欧洲的用户可能因使用其产品受到不利影响，均受其管辖。个人认为，我国的人工智能立法，可以合理拓宽域外管辖范围，通过管辖权条款赋予我国执法机构和司法机构域外管辖的权力。
王渝伟：欧盟《人工智能法案》立法水平相对来说还是比较高的，深入探讨了人工智能发展中的一些风险点，并做了细致的指引。据我了解，在立法过程中，欧盟成立了几个工作组，在全球范围内邀请了相关人工智能专家，听取了多种观点和声音，力图增强《人工智能法案》的可操作性。我认为，这都是中国人工智能立法值得借鉴的地方。
但欧盟《人工智能法案》的一个问题在于，没有为还处在快速变化发展过程中的人工智能行业预留更大的拓展的空间，有些法律条款过细、过严，这不利于行业的发展。它应该在行业发展和风险管控之间寻找到一个更好的平衡。我觉得，这是中国人工智能立法需要吸取的经验教训。
每个国家的人工智能的发展水平、模式、路径等都不尽相同，各国的人工智能立法都需要根据自身发展特点并借鉴他国经验教训，在鼓励创新与管控风险之间努力取得良好的平衡。
专家简介
申卫星
清华大学法学院教授、清华大学智能法治研究院院长，国务院政府特殊津贴专家，中国法学会网络与信息法学研究会副会长、中国计算机学会（CCF）计算法学行业分会副主任委员等
陈亮
西南政法大学人工智能法学院院长、教授、博士生导师，中国法学会环境与资源法学研究会常务理事，文化和旅游部法治专家委员会委员
陈兵
南开大学法学院副院长、教授、博士生导师，中国新一代人工智能发展战略研究院特约研究员，中国法学会经济法学研究会常务理事
刘晓春
中国社会科学院大学互联网法治研究中心执行主任，曾参与《中华人民共和国反电信网络诈骗法》《网络内容生态治理规定》《互联网信息服务算法推荐管理规定》等多部法律文件的制定和修订工作
张凌寒
中国政法大学数据法治研究院教授、博士生导师，联合国人工智能高层顾问机构中方专家，中国《人工智能法（学者建议稿）》起草专家组牵头专家
王渝伟
《法治日报》律师专家库成员、观韬中茂律师事务所合伙人、数字法律与网络合规业委会主任，兼任中国数据共享公约组织副理事长
选题策划｜法治网研究院
监制｜余瀛波
