- A+
在人工智能迅速发展的今天，AI的安全性成为了一个至关重要的话题。OpenAI与Anthropic最近宣布与美国国家标准与技术研究院（NIST）合作，共同推进AI安全测试。本文肖肖将详细介绍这一合作的主要内容及其对AI行业的深远影响。
OpenAI与Anthropic合作背景
2024年8月29日，NIST宣布与OpenAI和Anthropic达成合作协议。NIST的AI安全研究所将获得这两家AI领导者的新模型的预发布访问权限，以便进行安全测试。这一合作旨在确保AI模型在公开发布前经过严格的安全评估，从而提升AI技术的可靠性和安全性。
AI安全测试的重要性
AI安全测试是确保AI模型在各种应用场景中安全可靠的关键步骤。通过与NIST合作，OpenAI和Anthropic将能够在模型发布前识别并解决潜在的安全问题。NIST的AI安全研究所成立于2024年2月，负责开发大语言模型的测试方法和测试平台，并探索检测和识别AI生成内容的选项。
OpenAI与Anthropic合作的具体内容
根据合作协议，NIST将与英国AI安全研究所合作，分享安全改进的反馈，并制定相关建议1。此外，NIST还将支持由Humane Intelligence在10月举办的AI红队演习，邀请AI研究人员、网络安全专家和数据科学家参与，测试和应对生成式AI模型的潜在威胁。
合作的未来展望
OpenAI首席执行官Sam Altman表示，与NIST的合作是确保AI技术安全发展的重要一步。他强调，美国需要在AI安全领域继续保持领先地位。通过这一合作，OpenAI和Anthropic不仅提升了自身的技术能力，还为整个AI行业树立了新的安全标准。
Sam Altman 社交媒体原文："
we are happy to have reached an agreement with the US AI Safety Institute for pre-release testing of our future models.
for many reasons, we think it's important that this happens at the national level. US needs to continue to lead!"
OpenAI与Anthropic与NIST的合作展示了AI安全测试的重要性和必要性。通过引入严格的安全评估流程，这一合作将有助于提升AI技术的可靠性和安全性，为未来的AI应用奠定坚实基础。随着AI技术的不断进步，我们可以期待更多类似的创新和突破。
推荐阅读：
