实践前沿

WAIC2025人工智能法治论坛圆满收官

浏览：5377次发布时间：2025-07-29 15:29:10

２０２５年７月２６日下午，以“人工智能伦理与法治”为主题的２０２５人工智能法治论坛在上海世博中心成功举办。论坛由世界人工智能大会组委会办公室指导，上海市法学会、华东政法大学、上海政法学院主办。

上海市法学会会长姜平、上海市委政法委常务副书记张磊、华东政法大学校长肖凯、上海政法学院校长刘晓红出席并先后致辞。上海市法学会专职副会长施伟东主持论坛开幕式。

上海市法学会会长　姜平

姜平指出，在人工智能技术快速演进、深刻重塑产业格局并进而影响千行百业的关键时期，探讨人工智能的伦理准则规范和法治秩序构建具有重要意义。习近平总书记强调，“要把握人工智能发展趋势和规律，加紧制定完善相关法律法规、政策制度、应用规范、伦理准则，构建技术监测、风险预警、应急响应体系，确保人工智能安全、可靠、可控”。今年的法治论坛聚焦人工智能领域，旨在搭建伦理准则和法治实践的桥梁，凝聚更多智慧和共识。全球人工智能相关政策和立法总体上仍处于探索阶段，如何构建理性、系统、协调的法律规范体系，更好发挥法治对人工智能技术创新发展和安全可控的保障作用，是一项紧迫且重要的议题。我们要持续深入研究人工智能治理的各种复杂法律问题，推动人工智能高质量发展和高水平安全良性互动，积极参与国际人工智能制度标准规则制定。

上海市委政法委常务副书记　张磊

张磊指出，法治是人工智能健康发展的重要保障，要明确人工智能研发、应用和监管的权责边界，推动形成具有前瞻性、可操作性的制度框架。技术应当服务于人，要在技术发展中嵌入伦理考量，防止算法歧视、信息滥用等风险，让科技真正赋能社会进步。人工智能的治理没有国界，需要各国政府、企业、学界和公众携手共进。

华东政法大学校长　肖凯

肖凯指出，以人工智能为代表的司法科技正在重塑法律实践、法学研究和法学教育。从类案智能检索、法律文书自动生成，到裁判风险预警、司法资源智能调配，人工智能已渗透到法律运行的全流程。华东政法大学在人工智能法学领域持续深耕，围绕“人工智能法学”加强交叉学科建设，推进涉外法治领域的法律科技深度运用，愿与各方深化合作，为共同推动人工智能健康有序发展贡献力量。

上海政法学院校长　刘晓红

刘晓红指出，在法治轨道上加强人工智能治理、构建以人为本的治理框架，是抢抓人工智能发展历史机遇的必然选择。本次论坛深刻回应时代命题，体现了法学界与科学界的责任担当。上海政法学院积极布局人工智能与法治交叉领域的研究与人才培养，希望能与各界共同推动人工智能伦理与法治的融合发展。

主题演讲

５位法学法律界及人工智能相关领域的资深专家，围绕可信人工智能发展、人工智能适应型法治、人工智能立法反思、人工智能安全治理、人工智能国际法治等话题发表精彩演讲。

西北政法大学人工智能法治研究中心主任　杨建军

西北政法大学人工智能法治研究中心主任杨建军教授以《可信人工智能发展与法律制度的构建》为题发表主题演讲。他提出，由于当前人工智能发展中仍存在技术不完全可信、潜在侵权风险、价值取向与宣示不一等侵蚀其可信性等因素，以“可信”为基础来构建人工智能治理法律制度显得尤为必要。信任是社会合作的基础，而法律可以发挥强制性与引领性，为人工智能获得社会信任提供保障。可信人工智能的发展对法律构建提出了具体要求，应遵循“以人为本，捍卫人的基本权利”“人类主导”以及“技术中立”三大外在准则和“透明”“安全”“公平”“隐私保护”与“可问责”五大内在准则，建立完善人工智能设计、评估、测试、监督、责任等制度。

上海交通大学凯原法学院教授　李学尧

上海交通大学凯原法学院李学尧教授以《演化中的人工智能与适应型法治：中国路径的制度回应》为题，提出中国式创新法治是当下中国各科技创新中心初步成功的重要经验，其本质是“适应型法治”，通过动态反馈、行为激励、地方先行、软法协同、司法创新等制度装置实现。实践中，地方通过制度创新促进科技创新，包括侵权制度的变通创新、知识产权结构性缓和、劳动合同法的实质性规制缓和、金融制度的地方创新等。地方制度创新基于“资源投入→行为激励→风险治理→可信承诺”的层叠演进，降低了交易成本。中国的科技创新法治道路融合了自我演化、顶层设计和社会实验三种模式，值得法学界深入研究。

韩国科学技术所教授　金秉弼

韩国科学技术所金秉弼教授以《韩国人工智能框架法案的批判性概述》为题，对韩国《人工智能框架法》进行深度解析和反思。该法的核心规制措施分为三方面：一是对高影响人工智能系统实施安全性、可靠性和人工监督要求；二是要求生成式人工智能进行使用告知和内容标识；三是基于算力使用门槛设置风险管控机制。但是，该法将科技信息通信部作为横向监管机构，其缺乏在就业、教育、金融等特定领域的执法经验；法案仅规制人工智能开发者和服务提供商，存在责任主体认定模糊等问题；对安全影响型和权利影响型人工智能采用统一监管标准，可能违反比例原则。

北京邮电大学人工智能法律研究中心主任　崔聪聪

北京邮电大学人工智能法律研究中心主任崔聪聪教授以《ＡＩ安全治理的法治路径》为题，提出人工智能风险包括研发安全风险和应用安全风险，本质上源于人工智能的智能程度有限性。针对人工智能风险的系统性、传导性特征，以及人工智能的准主体性和自愈性的特点，应采取目标导向而非规则导向的法治进路。一是建立内生安全机制，通过运营者的法务合规评估和业务设计实现人工智能安全；二是构建责任与风险分配机制，在过错责任基础上，基于可预见性、可控性和最低成本规则进行风险分配。人工智能安全立法的可行性取决于产业成熟度和问题暴露程度，目前宜采取出台人大决定、修法、制定部门规章等路径推进人工智能安全立法工作。待时机成熟时，出台综合性的人工智能安全法。

中国网络空间研究院副院长、高级工程师　钱贤良

中国网络空间研究院副院长、高级工程师钱贤良以《人工智能治理的法治路径观察》为题提出，将人工智能治理纳入法治轨道是破除人工智能治理赤字的应有之义。中国特色人工智能法治体系初步形成，以“有益、安全、公平”为价值取向，坚持发展和安全并重、促进创新和依法治理相结合的原则，持续加强规范供给推进建立人工智能安全监管制度。国际社会携手应对人工智能风险挑战，应通过落实《全球数字契约》践行全人类共同价值的理念，鼓励构建人工智能技术开源生态，弥合人工智能鸿沟、破解技术垄断与ＡＩ霸权主义，遵循国际法基本准则实现人工智能国际治理的共同愿景，促进普惠共享人工智能世纪红利提升全人类福祉。

圆桌对话

４位上海市人工智能伦理与治理专家委员会的专家委员以“追问、应对、共识”为脉络，从法学、哲学、技术与产业视角展开精彩对话。圆桌对话由上海市法学会专职副会长施伟东主持。

上海交通大学凯原法学院院长、特聘教授　彭诚信

上海交通大学凯原法学院院长、特聘教授彭诚信在回应人工智能的法律治理时提出，法律是人工智能治理的有效工具之一。法律应为人工智能的充分发展提供充分的制度保障和有力支持，将治理重点置于社会效果而非技术细节之上，为人工智能技术与产业发展提供最大限度的自由空间，对此，法律应保持高度的谦抑性；但也应强调，人工智能发展必须以坚守国家安全、隐私保护和伦理向善的底线，否则一切美好发展无从谈起。在知识生产领域，大模型技术的应用引发了对知识真实性鉴别难题的关注。事实上，不仅人工智能会产生＂幻觉＂，传统人类社会的知识体系的再生产同样面临辨别真伪的挑战。在这方面应高度关注大模型知识生产对教育领域的影响，当下尽管学校教育体系依旧发挥着不可替代的重要作用，但在人工智能时代，教育的具体内容与方法亟需重新审视和改进，以便更好运用好大模型时代知识生产模式为教育领域制度改革和人才培养机制的优化提供技术支持、知识积累和变革动力。

复旦大学哲学学院教授、中国科协复旦大学科技伦理与人类未来研究院院长　王国豫

复旦大学哲学学院教授、中国科协复旦大学科技伦理与人类未来研究院院长王国豫在回应伦理与法理的关系和区别时提出，相比法律的权威性和强制性，伦理为不同价值观和立场提供了更宽广的思辨和讨论空间。在人工智能的不确定性面前，伦理治理的优势在于能够容纳多元观点，让社会在发展中“且行且看且治理”。针对人工智能创作署名问题，只要不侵害他人权益且诚实标注、未制造责任真空，人类与人工智能的协同创作本身并无伦理争议。但是某些情况下，例如人工智能对青少年产生负面影响，确实需要法律的强制性介入。

蚂蚁集团副总裁、首席技术安全官　韦韬

蚂蚁集团副总裁、首席技术安全官韦韬在回应人工智能产业发展的实践时提出，人工智能的可靠性将在未来三至五年内大幅提升，甚至可能实现脱离人类辅助的大规模应用，届时伦理问题将从学术思维实验转变为产业现实问题。未来人工智能应用将趋向显性化、约定化、受控化，而非单一大模型包揽所有任务。在风险管理方面，可通过保险等市场化机制来分担风险。对于人工智能替代人类工作的担忧，虽然初级和例行性工作可能被替代，但顶尖人类智能难以被取代。提升人类认知水平仍是教育的核心任务，人类需要学会与未来更加独立的人工智能共处。

亚马逊云科技上海人工智能研究院院长　张峥

亚马逊云科技上海人工智能研究院院长张峥在回应大模型技术创新时提出，人工智能学界与法学界、伦理学界之间存在认知差异，导致许多技术从业者认为某些法律规制措施缺乏合理性，因此必须加强跨界融合。针对人工智能幻觉问题，由于大模型内部神经回路的不可测性和不确定性，很难从技术层面完全防止人工智能产生偏离预期的行为。人工智能技术的广泛应用将产生放大器效应，在提升人类整体能力水平的同时加剧群体间能力的分化。传统教育体系与人工智能时代人才需求之间的脱节是亟待解决的重大问题。