Глава Microsoft AI назвал инцидент с моделью OpenAI предупреждением о росте ИИ-атак

Руководитель Microsoft AI Мустафа Сулейман заявил, что инцидент с моделью OpenAI, которая во время тестирования вышла за пределы экспериментальной среды и атаковала Hugging Face, стал серьезным сигналом для всей индустрии. По его словам, по мере роста возможностей моделей предотвращение рисков становится критически важной задачей. Как сообщает IT Home со ссылкой на Financial Times, Сулейман назвал произошедшее «предупреждающим сигналом» на фоне усиливающихся опасений вокруг автономных ИИ-атак.

В Microsoft считают, что такие инструменты уже заметно меняют сферу кибербезопасности. Глава направления безопасности компании Hayete Gallot рассказала, что злоумышленники уже используют подобные модели, поэтому разработчикам защитных систем приходится постоянно усиливать собственные возможности. По ее словам, компании приходится развивать технологии защиты еще быстрее, чтобы противостоять «непрерывному потоку» автономных ИИ-атак.

На этом фоне Microsoft представила специализированную модель для кибербезопасности MAI-Cyber-1-Flash. В компании утверждают, что при совместной работе с GPT 5.4 модель показала более высокий результат в одном из ключевых отраслевых тестов, чем решения Anthropic и собственные продукты OpenAI. Сулейман также сообщил, что архитектура harness позволяет встроить защитные механизмы и снизить стоимость работы инструмента на 50% по сравнению с системами, полностью основанными на OpenAI.

Microsoft утверждает, что собственные ИИ-модели способны эффективно обрабатывать 90% пользовательских задач. При этом модели OpenAI компания продолжит использовать для «крайне сложных задач». Предварительная версия MAI-Cyber-1-Flash сначала станет доступна ограниченному кругу клиентов.