В конце прошлого месяца OpenAI расформировала preparedness team, сообщает The Verge со ссылкой на Financial Times. Команда оценивала, способны ли модели создавать серьезные риски, и искала способы снизить возможный ущерб.
По данным Financial Times, ее обязанности распределили между отдельными направлениями, в том числе bio и cyber. Эти функции перешли к уже существующим командам OpenAI.
Ключевые факты
Расформирование произошло в конце прошлого месяца.
Команда оценивала серьезные риски моделей и разрабатывала способы их снижения.
Ответственность по направлениям bio и cyber передали существующим командам OpenAI.
Вопросы и ответы
- Кого теперь касается оценка рисков в направлениях bio и cyber?
Эти функции передали существующим командам OpenAI, распределив ответственность по отдельным направлениям.
- Когда изменилась структура оценки рисков?
Preparedness team расформировали в конце прошлого месяца.
- Что именно делала расформированная команда?
Она оценивала способность моделей создавать серьезные риски и разрабатывала способы их снижения.