2024 年 7 月 18 日 –安全人工智能联盟（CoSAI）在阿斯彭安全论坛上宣布成立。CoSAI 由 OASIS 全球标准机构主办，是一项开源计划，旨在为所有从业者和开发人员提供创建安全设计 AI 系统所需的指导和工具。CoSAI将建立一个协作生态系统，以共享开源方法、标准化框架和工具。

CoSAI 汇集了包括行业领导者、学者和其他专家在内的各种利益相关者，以解决 AI 安全的碎片化问题。

• CoSAI的创始主要赞助商是Google，IBM，Intel，Microsoft，NVIDIA和PayPal。其他创始赞助商包括 Amazon、Anthropic、Cisco、Chainguard、Cohere、GenLab、OpenAI 和 Wiz。

• CoSAI 是一项旨在增强 AI 使用和部署中的信任和安全性的举措。

• CoSAI 的范围包括安全地构建、集成、部署和运营 AI 系统，专注于降低模型盗窃、数据中毒、及时注入、大规模滥用和推理攻击等风险。

• 该项目旨在制定全面的安全措施，以解决人工智能系统的经典和独特风险。

• CoSAI是一个开源社区，由项目管理委员会领导，负责推进和管理其整体技术议程，以及由来自学术界和工业界的人工智能专家组成的技术指导委员会，他们将监督其工作流程。

初步工作目标：

CoSAI将形成三个初步目标，并计划随着时间的推移增加更多目标：

• 人工智能系统的软件供应链安全：增强成分和来源跟踪，以保护人工智能应用程序。

• 让防御者为不断变化的网络安全环境做好准备：应对人工智能和经典系统中的投资和集成挑战。

• 人工智能安全治理：为人工智能安全制定最佳实践和风险评估框架。