站内搜索 - 上海交通大学国际与公共事务学院

人工智能新生态与伦理治理新格局 | 上海交通大学第二十四期“科技论剑”交叉论坛圆满举办

4月23日，上海交通大学第二十四期“科技论剑”交叉论坛于徐汇校区新建楼举行。本次论坛以“人工智能新生态与伦理治理新格局”为主题，作为“上海交通大学人工智能主题周”的重点活动之一，由科学技术发展研究院主办，国际与公共事务学院承办，由网络空间安全学院、人工智能学院、国家安全研究院、凯原法学院等共同协办。上海市网信办副主任杨海军，上海交通大学党委常委、副校长蒋兴浩，阿里研究院院长袁媛，徐汇区新工办副主任庄子希，上海市信息安全测评认证中心总工程师李宏达，复旦大学美国研究中心教授蔡翠红，国际与公共事务学院院长吴建南，科研院学科发展与成果处副处长叶定剑，智慧司法研究院常务副院长杨力，网络空间安全学院副院长刘功申，凯原法学院教授郑戈，国际与公共事务学院副院长黄琪轩，国际与公共事务学院教授刘宏松，人工智能学院副教授陈思衡等出席论坛。近年来开源人工智能的创新发展打开了技术供给端的“阀门”，形成了多重技术路线竞相迸发的新局面，人工智能应用进程随之提速，千行百业的普遍接入推动人工智能发展新生态逐渐显现，但同时也对人工智能伦理与安全治理提出了新要求、新挑战。为有效回应新阶段的生态发展新格局与伦理治理新需求，推动跨领域、跨学科的交叉对话，促进利益相关方在人工智能发展治理方面的理念共识，此次论坛搭建了政、产、学、研对话平台，为探索人工智能新生态的演化模式、推动人工智能伦理治理的改革创新提供了新理念、新知识。蒋兴浩代表学校对到场的专家学者及师生们表示欢迎。他表示，在DeepSeek等开源大模型的引领下，人工智能迎来了技术跃迁与应用扩展的关键节点，形成了技术多路径、应用全行业、治理新课题的复杂格局。面对技术快速演进与风险隐患并存的挑战，交大正通过设立人工智能学院、推动“AI+教育”体系改革和建设AI治理平台等举措，主动融入国家战略，服务科技发展。他强调，AI治理亟需政产学研各界协同探索，交大愿为推动人工智能治理贡献学术力量与制度智慧。论坛上午以主旨报告和圆桌对话的形式展开。论坛开幕式和主旨报告环节由国际与公共事务学院党委书记沈丽丹主持。在主旨报告环节，杨海军发表了题为“从PC时刻到AI治理：对当前人工智能发展的观察与思考”的精彩演讲。他以生动的历史回顾引入，指出当前我们正在进入“AI的PC时刻”，AI正在发生从生产工具向“生产工具+效率工具”转化、从云端集中服务向分布式嵌入式应用转变、从看得见应用向看不见服务演进等多重变革。在此背景下，宏观、中观、微观等不同层面都出现了新的风险挑战，需要把握发展和安全的平衡，坚持多元共治、智能向善、快中有慢、静中有动、审慎包容、共同成长等治理原则。吴建南从“创新热带雨林”的概念切入，解释了“人工智能N小龙何以出现”的底层逻辑。他指出，创新往往来源于自下而上的“涌现”，并发生于“特定空间”。为推动AI的持续繁荣，有必要在当前持续推动创新街区建设，以创造“热带雨林式”的创新生态，从而使得创新的“偶然性结果”和“必然性过程”实现有机统一。袁媛带来了题为“从共同无知到最大共识”的主旨报告，分享了她在DeepSeek之后关于AI发展与治理的新观点。她指出，当前我们进入了AI技术的“AHA时刻”，也迎来了“治理的Tipping Point”。“AHA时刻”是指开放试错、联动创新构成了AI技术路线的新共识，而AI治理也需要借鉴开源集市理念，对于快速演进的未知风险找到互信合作、协同共治的新治理体系。杨力分享了在构建法律大模型过程中的理论思考与实践经验。围绕如何构建一个赋能“企业出海”的涉外法治智能体，他从选好大模型、培养智能体、实现交互式应用三方面分享了建设心得，进而指出当前需重视“快思慢想的协同之道”，以超越已有的智慧司法技术成果。刘功申以“智能体与安全”为题，系统解释了智能体的内涵、技术范式，同时也指出现阶段面临的感知、泛化、安全等方面的技术挑战，以及易过拟合、可靠性不足、易被攻击等安全风险，进而分享了在智能体安全对齐、智能体安全评测方面的研究进展与成果。郑戈分享了“数字主权视角下的人工智能与国家安全”主旨报告，以TikTok封禁争议为案例引入，他讨论了复杂数字科技给安全带来的新挑战，并提出应防止部门主义和地方主义，并在数据领域奉行多边主义以回应安全风险。李宏达以“AI for AI“为题分享了人工智能安全测评与防护实践的主旨报告。他介绍了AI安全测评中的“三性三法”经验总结，提出了AI安全防护中的“一专多能”实践心得。在此基础上，他提出了应推动AI治理生态协同的未来展望。陈思衡以“将智能体融入人类生活”为题，讨论了未来可能的产业形态变化以及以此为背景的AI安全研究进展。此次论坛特别设立了圆桌讨论环节，由国际与公共事务学院副院长魏英杰主持，邀请了黄琪轩、蔡翠红、刘宏松三位专家，围绕“人工智能国际治理”主题展开了深度对话。与会嘉宾指出，当前AI技术正在重塑全球权力格局与治理模式，国际社会需警惕地缘竞争背景下的“泛安全化”倾向，应强化高风险系统识别、军备控制共识与多边机制构建，推动形成具有包容性与可持续性的全球AI治理框架。在下午举行的平行论坛中，“人工智能国际治理”、“开源人工智能发展与治理”、“公共议题下的人工智能伦理治理”、“人工智能赋能数字治理”四个分论坛相继展开。来自多个单位的业内专家学者与硕博研究生共同研讨，激荡前沿、开放对话、汇聚思想。论坛同时还举办了“人工智能赋能教育科技人才一体化改革”的闭门研讨会。在论坛会议环节结束后，新建楼天井举办了开放式交流会，与会师生汇集一堂展开了更深入交流。论坛在众人的热烈讨论中落下了帷幕，为人工智能新格局下的发展与治理提供了一场丰富的思想和知识盛宴。