“人工智能安全作为公共产品的未来图景”学术沙龙在上海交通大学举行

2026年10月22日，由上海交通大学国际与公共事务学院、清华大学产业发展与环境治理研究中心联合主办的“人工智能安全作为公共产品的未来图景”学术沙龙在上海交通大学徐汇校区举行。来自高校、科研机构、行业协会和企业的专家学者通过线上线下方式参会，围绕人工智能安全风险的新变化、治理的可能路径及安全公共产品的未来发展展开交流。上海交通大学国际与公共事务学院教授贾开主持会议。

贾开教授在开场发言中回顾了2024年“人工智能安全作为公共产品”研究报告的提出背景（相关报告可参见：https://www.sipa.sjtu.edu.cn/show/5646）。贾开教授指出，安全领域具有广泛的合作空间，通过公共产品建设，既可以帮助中小企业提升安全能力，也可以促进企业之间的互信与合作。随着模型能力提升和智能体应用拓展，需要结合新的实践，进一步讨论这一理念的适用范围、可持续性及其面临的挑战。

在报告交流环节，上海市信息安全测评认证中心总工程师李宏达介绍了“智测能手”生成式人工智能安全测试公共服务平台的建设与未来展望。该平台是全国首个人工智能安全检测的公共服务平台，主要针对中小企业缺乏专业团队、自测能力不足、测评成本较高等困难，平台提供大模型安全测评、人工智能生成内容标识验证、生成内容检测和智能代码审计四类服务，支持企业免费开展自测并形成评估报告。李宏达表示，未来希望通过利益相关方共建以打造可持续发展与运营的行业公共产品。

阿里巴巴Token Foundry安全负责人张荣介绍了千问大模型的安全与合规实践。他从组织机制、模型内生安全、安全运营和全球化合规等方面，阐述了覆盖数据处理、模型训练、评测、部署及运行的全生命周期治理体系。张荣强调，评测的目的在于发现并解决问题，应通过持续反馈推动模型安全能力提升。围绕国际化合规业务，千问结合内部评估与独立第三方评估开展风险识别，并通过安全信息披露、开源安全工具和数据集、发布后跟踪响应等方式推进负责任的技术开放。

西蒙长期治理研究所（Simon Institute for Longterm Governance）人工智能治理高级专家Julia Ying Chen与人工智能治理顾问潘正帆共同介绍了研究所的工作及国际治理趋势。Julia Ying Chen分享了研究所在政策研究、外交官能力建设及技术与政策对话方面的实践。潘正帆围绕联合国治理机制、独立评估和开放权重模型传播三个方面展开分析，提出中国研究机构和企业应持续参与国际对话，分享本土治理经验，同时重视第三方评估所需的时间、信息和访问权限，探索开源与闭源模型并存背景下的治理合作。

围绕人工智能安全风险的新形势、新特征与新挑战，与会专家从不同层面展开讨论。上海市人工智能行业协会副理事长、安全工作委员会秘书长殷雨薇结合报告材料，介绍了上海人工智能产业发展与治理实践。清华大学公共管理学院长聘教授陈玲提出，应区分公共安全、特定群体安全和企业及个人安全等不同层次，梳理已有共识，逐步推动合作。同济大学法学院助理教授朱悦指出，对风险后果形成共识，并不意味着对其发生概率具有相同判断，既要看到前沿安全治理中的共同关切，也要正视国际协调的实际困难。上海人工智能实验室青年科学家瞿晶晶进一步提醒，除技术风险外，还应关注人工智能长期嵌入社会后，对人的认知、依赖和问题解决能力产生的影响，并建议关注“认知熵”等新理论概念的重要性。会议还邀请了华南理工大学公共政策研究院教授、广东新质生产力研究中心主任蒋余浩，广州市委党校政法教研部副教授杨涛参加交流。

围绕安全风险治理的可能路径，清华大学公共管理学院长聘副教授赵静提出，在风险对象、边界和共识均存在不确定性的情况下，需要讨论不同主体提供安全公共产品的能力与效率。李宏达认为，应根据对象、主体和场景实行分类分级治理，由具有公信力的机构与具备技术能力的企业、科研机构协同提供支撑。张荣从界定、度量和解决问题的不同环节出发，讨论各方职责，强调模型、云服务和应用层的责任主体各有不同。Julia Ying Chen则结合国际经验，介绍了通过专门机构、人才机制和第三方组织补充公共评测能力的可能方式。华东理工大学社会与公共管理学院讲师孙君提出，应进一步考察算法备案与评估中形成的政企共同学习机制能否适用于智能体，以及是否需要引入新的制度安排。诚镌科技创始人兼CEO盛毅旻结合脑机接口研究指出，技术快速迭代正在改变人工智能安全的边界与标准，应重视使用者在安全标准制定中的作用，通过动态授权和数据边界设定加强对智能体的管理。联想集团政府事务总监、公共政策研究中心副主任胡永启以线上方式参会。

围绕人工智能安全作为公共产品的未来图景，阿里研究院人工智能治理中心主任傅宏宇强调，提供安全公共产品并不自动意味着免除责任，应明确责任边界，并重视真实应用中的负责任安全治理行为。中国社会科学院经济研究所助理研究员陈颖提出，应建立公共部门、技术企业、科研机构与社会共同参与的供给体系，并进一步研究公共应急能力建设与政府介入时机。北京航空航天大学公共管理学院讲师王哲认为，应细化公共产品的具体内容，分析各环节的成本、收益与投入机制，推动理念转化为可持续的实践。阿里巴巴Token Foundry算法安全专家冯一霏提出，应关注国内外风险治理重点及法律制度认知的差异，探讨其对中国企业和社会组织参与国际讨论、标准制定及获得认可的影响。

贾开教授总结指出，人工智能安全作为公共产品，不仅体现为安全工具和评估报告的供给，也包括各方对评测过程的共同信任。应加强不同主体之间的对话与交流，提升评测结果的可验证性、可监督性和可重复性，推动安全治理能力持续完善。贾开教授表示，后续将结合本次讨论，继续推进“人工智能安全作为公共产品”研究报告的更新，深化政产学研各方的合作研究与实践交流。

来源：学科与科研管理办公室