安全人工智能联盟(CoSAI)宣布成立,谷歌、微软、OpenAI等14家科技公司牵头
kiki 2024-07-21 18:48:07 浏览:301
2024 年 7 月 18 日 –安全人工智能联盟(CoSAI)在阿斯彭安全论坛上宣布成立。CoSAI 由 OASIS 全球标准机构主办,是一项开源计划,旨在为所有从业者和开发人员提供创建安全设计 AI 系统所需的指导和工具。CoSAI将建立一个协作生态系统,以共享开源方法、标准化框架和工具。
CoSAI 汇集了包括行业领导者、学者和其他专家在内的各种利益相关者,以解决 AI 安全的碎片化问题。
CoSAI的创始主要赞助商是Google,IBM,Intel,Microsoft,NVIDIA和PayPal。其他创始赞助商包括 Amazon、Anthropic、Cisco、Chainguard、Cohere、GenLab、OpenAI 和 Wiz。
CoSAI 是一项旨在增强 AI 使用和部署中的信任和安全性的举措。
CoSAI 的范围包括安全地构建、集成、部署和运营 AI 系统,专注于降低模型盗窃、数据中毒、及时注入、大规模滥用和推理攻击等风险。
该项目旨在制定全面的安全措施,以解决人工智能系统的经典和独特风险。
CoSAI是一个开源社区,由项目管理委员会领导,负责推进和管理其整体技术议程,以及由来自学术界和工业界的人工智能专家组成的技术指导委员会,他们将监督其工作流程。
初步工作目标:
CoSAI将形成三个初步目标,并计划随着时间的推移增加更多目标:
人工智能系统的软件供应链安全:增强成分和来源跟踪,以保护人工智能应用程序。
让防御者为不断变化的网络安全环境做好准备:应对人工智能和经典系统中的投资和集成挑战。
人工智能安全治理:为人工智能安全制定最佳实践和风险评估框架。