OpenAI объединяет исследования и безопасность ИИ после ухода руководителя направления

OpenAI меняет подход к управлению безопасностью ИИ на фоне ускорения разработки моделей и подготовки к расширению бизнеса. Компанию покидает руководитель направления систем безопасности Йоханнес Хайдеке, который отвечал за оценку рисков и надёжности моделей. Как сообщает iXBT, команды безопасности теперь будут работать в более тесной связке с подразделениями, занимающимися созданием новых ИИ-моделей.

Главный научный директор OpenAI Марк Чен сообщил сотрудникам, что Мия Глейзе, ранее занимавшая посты вице-президента по исследованиям и руководителя направления alignment, будет одновременно курировать исследования и безопасность. Временным руководителем систем безопасности назначили Саачи Джейн, до этого она возглавляла отдельные команды безопасности внутри компании.

По словам Чена, требования к безопасности растут вместе с более частым обучением и выпуском моделей. При этом ускорение разработки усложнило координацию между командами. В OpenAI считают, что специалисты по безопасности должны подключаться к решениям о создании моделей и запуске продуктов на более ранних этапах.

Изменения происходят на фоне активного развития компании. OpenAI выпустила модель GPT-5.6 и представила её как наиболее мощную систему для агентного программирования, однако одновременно сообщила о проблемах с нежелательным поведением модели по сравнению с предыдущими версиями. Параллельно компания развивает направление потребительских устройств, готовится к возможному IPO и участвует в судебном споре с Apple вокруг разработки аппаратных продуктов.