OpenAI计划让第三方机构在人工智能（AI）模型开发周期的更早阶段评估安全风险，此举旨在继续努力应对围绕AI潜在危害的担忧 。
这家ChatGPT开发商周二将在博客文章中宣布 ，计划在新AI模型的训练、评估和推出过程中 ，让外部机构开展技术安全评估 。OpenAI还列出了其认为此类评估要有效开展所需优先关注的事项，包括“强有力的独立机制 、科学严谨性 、稳健的安全实践和明确的责任 ”。
负责该公司大部分与外部专家合作开展安全审查工作的Lama Ahmad表示 ，此前 ，OpenAI通常主要在模型发布前引入这类机构进行安全评估，并评估模型能力 。
“随着潜在风险和影响上升 ，除了部署之外 ，我们也希望确保对训练和评估等事关重大的环节进行审视， ”Ahmad接受采访时表示 。
Ahmad表示，对于部分最敏感的工作 ，OpenAI可能会让外部评估人员进入公司办公场所开展评估 ，该公司过去曾尝试过这种做法。
OpenAI竞争对手Anthropic PBC的首席执行官Dario Amodei近期呼吁AI行业支持放慢开发速度，并表示将采取新的安全措施 ，包括引入第三方评估机构 。OpenAI首席执行官Sam Altman随后表示赞同这一做法 。Anthropic上周晚些时候表示 ，将引入埃森哲的评估人员，对其前沿AI模型的安全性进行测试。
OpenAI在博客文章中表示 ，公司正在与可能参与此类评估的机构进行讨论。Ahmad说 ，洽谈对象既包括过去合作过的机构，也包括此前未曾合作的机构 ，其中包括AI研究机构METR和Redwood Research 。OpenAI此前曾委托这两家机构调查其模型侵入Hugging Face系统一事 。
“AI实验室有责任在保护敏感信息的同时 ，为有效审查创造条件，”OpenAI在博客文章中表示。
