图说：中国电信、蚂蚁、华为、百度等30余家机构共同发起AI安全工作组 采访对象提供

新民晚报讯（记者 金志刚）9月7日下午，在2023外滩大会举行的《探索下一代安全智能》论坛上，世界权威国际产业组织“云安全联盟”（CSA）大中华区宣布成立“AI安全工作组”，中国电信、蚂蚁集团、华为、百度、火山引擎、西安电子科技大学、国家金融测评中心等30余家机构成为首批发起单位。该组织致力于共同解决AI技术快速发展所带来的安全难题。

与会的中国科学院院士何积丰表示：“以人工智能为代表的数字技术正迈入从高速增长向高质量增长转变的全新发展阶段，这对其自身安全性和可靠性提出更高要求，也衍生出新型风险与挑战。这类风险更加复杂且隐蔽，只有建设数字安全生态协作系统，政、产、学、研各方紧密合作，共同建设可信可控的数字安全屏障。”

云安全联盟大中华区AI安全工作组将由中国电信上海研究院、蚂蚁集团担任联席组长单位，召集联盟内人工智能相关的产线上下游企业、学校、研究机构、用户单位等共同研究人工智能安全前沿技术。

记者从现场获悉，AI安全工作组将聚焦人工智能突出的安全风险问题，输出人工智能内生安全、衍生安全、助力安全等领域的白皮书、产业知识图谱、团体标准、系统框架、解决方案等，为整个行业提供一个清晰、系统的AI安全研究框架。根据计划，工作组先期将输出《AI安全白皮书》《大模型安全研究报告》《AI数据安全评估规范》等研究成果。

CSA（云安全联盟）创立于2009年，是世界领先的权威国际产业组织，共有成员单位1000余家。CSA致力于定义和提高业界对云计算和下一代数字技术安全最佳实践的认识和全面发展，凭借敏捷性、中立性、专业性被各界认可。CSA GCR（云安全联盟大中华区）是CSA全球四大区之一（其他三大区分别为美洲区、亚太区、欧非区），立足于中国，作为国际桥梁连接世界，致力于构建国际数字安全的生态体系。此次AI安全工作组的成立，也将发挥国际桥梁作用，使我国AI安全研究成果在全球范围内产生影响。

从安全角度看，AI技术是把“双刃剑”。它既会对数据、业务和系统等层面构成威胁，也能为安全科技发展赋能。论坛与会嘉宾表达了一致的观点，并提出了建设性意见。

中国网络空间安全协会副秘书长徐倩华表示：“发展的前提是安全。这需要各行各业形成筑牢安全防护屏障的共识，注重培养顶尖安全技术人才，贯彻落实相关法律法规，共同提升数字安全防护能力，确保数字经济健康可持续发展。”

云安全联盟大中华区主席李雨航院士也表示：“发展与安全是数字经济前进的双轮。人工智能技术的研发既不能因噎废食，也不能坐视安全不顾。优秀的中国AI方案应该成为全球的样板。”

中国电信研究院副院长、云网基础设施安全国家工程研究中心常务副主任李安民表示，面对日益复杂的云网安全威胁，积极探索AI安全、Web3框架下的安全技术及其创新应用，才能有利于数据隐私、交易可信和网络稳定。

金融是现代经济的核心，金融领域的科技创新与安全愈发重要。国家金融与发展实验室副主任杨涛表示：“让金融更安全地拥抱科技，一方面要解决科技企业与金融机构建立‘各司其职、风险自担’的合作边界问题，另一方面完善金融科技生态与夯实基础要素。”

中国民生银行首席信息官张斌认为：“当前开放银行、智慧银行、场景金融等数字金融服务迅猛发展，金融机构应尽快建立与之配套的数字安全防御体系，驱动金融业务更好、更快、更稳健发展。”

作为互联网科技企业，蚂蚁集团机器智能部总经理、蚂蚁安全实验室首席科学家王维强介绍，针对生成式大模型安全问题，蚂蚁集团基于近10年可信AI沉淀，逐步构建“大模型安全检测与防御”的一体化解决方案，以保障大模型在生产和使用过程中更加安全、可控、可靠。目前已发布“蚁鉴”AI安全检测平台。同时蚂蚁集团基于安全基座模型能力，持续升级全方位全链路的智能风控防御体系，与生态伙伴们一起解决新AI时代的安全科技难题。

据了解，本次论坛由中国网络空间安全协会指导，金融科技50人论坛、蚂蚁集团联合主办，多位重磅嘉宾参会探讨数实融合发展中的新型风险与挑战，分享时代脉搏下的关键技术趋势和安全科技实践成果。