OpenAI проводит внутренние учения, чтобы подготовиться к последствиям крупного цифрового инцидента или масштабной кибератаки, при которых могут возникнуть перебои в работе банков, интернета или энергосистем. Сотрудники разбирают возможные сценарии и действия компании, сообщает iXBT со ссылкой на Axios.
Глава OpenAI Сэм Альтман и руководитель Anthropic, разработчика Claude, Дарио Амодеи считают перебои в работе систем, от которых зависят связь, финансовые услуги и энергоснабжение, одним из сценариев, к которым отрасли стоит готовиться. Компании также оценивают возможную общественную и политическую реакцию на такой кризис. В OpenAI подчёркивают, что учения не означают неизбежности подобных событий: они нужны, чтобы заранее отработать порядок действий.
Отдельно от учений OpenAI в США идёт законодательная дискуссия о механизмах экстренного ограничения или отключения передовых ИИ-систем. Это инициативы конгрессменов, а не механизм OpenAI. ITPro пишет, что с конца июля представители обеих партий внесли несколько законопроектов на эту тему. Один из них, AI Kill Switch Act, должен обязать разработчиков ограничивать, приостанавливать или полностью отключать системы при угрозе катастрофического ущерба. Пока это законопроекты, а не действующие правила.
Эксперты, опрошенные ITPro, предупреждают, что универсальную «красную кнопку» трудно реализовать: ИИ работает на устройствах, в сетях, дата-центрах и корпоративных процессах. Резкое отключение модели само может остановить зависящие от неё операции. Поэтому организациям рекомендуют заранее учитывать возможную недоступность системы и готовить резервные сценарии.
Что это значит
- Для вас. Немедленных действий не требуется. Учения не подтверждают близость масштабного инцидента, но показывают, что OpenAI заранее отрабатывает реакцию на такие риски.
- В России. Для компаний, которые используют OpenAI или Anthropic через посредников либо зарубежное юрлицо, возможное ограничение модели зарубежным разработчиком остаётся внешней зависимостью.
- Что сделать. Если важный процесс зависит от одной ИИ-модели, стоит зафиксировать эту зависимость и подготовить резервный вариант. Такой подход рекомендуют опрошенные ITPro специалисты.
- За чем следить. Главный маркер: примет ли Конгресс США один из законопроектов об экстренном отключении и появятся ли обязательные стандарты реагирования.