快科技7月19日消息,据媒体报道,全球科技巨头谷歌携手微软、亚马逊、英特尔、英伟达、IBM、思科、Paypal、OpenAI、Anthropic、Cohere、Chainguard、WIZ及GenLab等共计14家领先企业,于7月18日在阿斯彭安全论坛上正式宣布成立了安全人工智能联盟(CoSAI)。

该联盟由备受尊崇的OASIS全球标准机构鼎力支持并主办,作为一项前瞻性的开源计划,CoSAI旨在构建一个面向全体AI从业者及开发者的资源共享平台,通过提供详尽的指导手册与高效工具,助力他们设计出更加安全可靠的人工智能系统。这一举措不仅促进了行业内知识与技术的交流共享,还为构建安全的AI生态系统奠定了坚实的基础。

CoSAI聚焦于三大核心目标:一是深入挖掘并推广人工智能安全的最佳实践,为行业树立标杆;二是积极应对人工智能领域不断涌现的新挑战,确保技术发展的稳健前行;三是全面保障人工智能应用的安全性,为用户和社会带来福祉。

在具体实施层面,CoSAI的工作范围广泛而深入,涵盖了从人工智能系统的安全构建、无缝集成、高效部署到稳定运行的全过程。

尤为重要的是,联盟将重点聚焦于降低一系列潜在风险,包括但不限于模型盗窃、数据中毒、提示注入、规模滥用以及推理攻击等,这些威胁不仅威胁着AI系统的稳定与安全,更可能对社会经济造成不可估量的损失。