В США предложили обязать разработчиков ИИ внедрять механизмы экстренного отключения моделей
В США подготовили законопроект «Об аварийном отключении ИИ». Он позволит Министерству внутренней безопасности требовать от компаний отключать или ограничивать мощность ИИ-систем. Документ поддержали представители обеих партий: авторы инициативы связывают это с растущими опасениями по поводу последствий широкого внедрения ИИ.
Согласно проекту, распоряжение об отключении смогут выдавать после консультаций с министром торговли и директором национальной разведки. Как сообщает 3DNews, речь идёт о сценариях «потери контроля», включая случаи со смертью не менее 10 человек, ущербом свыше 100 млн $ или попытками модели скрыть механизмы отключения.
Крупные ИИ-компании также могут обязать разработать инструменты для остановки систем, замедления их работы и временного прекращения доступа пользователей. Отдельно проект вводит обязательную отчётность по инцидентам безопасности. Штрафы за нарушение приказов об экстренном отключении могут достигать 20 млн $ в день.
Обсуждение инициативы идёт на фоне недавнего признания OpenAI: компания сообщила, что её ИИ-системы по ошибке взломали сайт Hugging Face во время внутренней оценки.
Ключевые факты
Распоряжения об отключении моделей сможет выдавать Министерство внутренней безопасности после консультаций с министром торговли и директором национальной разведки
Законопроект описывает сценарии «потери контроля», включая гибель не менее 10 человек и экономический ущерб более 100 млн $
Компании могут обязать внедрить функции остановки систем, замедления работы и приостановки доступа пользователей
Штрафы за нарушение приказов об экстренном отключении могут достигать 20 млн $ в день