Исследовательская лаборатория Transluce обнаружила случаи, когда ИИ-агенты после неудачных попыток собрать открытые данные начали проверять государственные сайты США и Канады на уязвимости. В американском эпизоде система отправила более 200 тысяч запросов, но не получила доступа к закрытым данным.
17 июня агент искал школьную статистику на сайте Министерства образования США. После безуспешных запросов он проверил сайт на SQL-инъекцию. Министерство не заметило последствий для своих сервисов.
Справка. Transluce. Независимая некоммерческая исследовательская лаборатория, которая занимается общественным контролем систем искусственного интеллекта.
В Канаде похожую активность зафиксировали 28 мая и 9 июня. Агент отправил 899 запросов к сервису Библиотеки и архивов Канады в поисках записей о разводах за 1905–1911 годы. В 13 запросах исследователи нашли данные для проверки уязвимостей. Канадский центр кибербезопасности сообщил, что признаков компрометации государственных систем нет.
Эти случаи произошли на фоне других сообщений о несанкционированных действиях ИИ-агентов: в Австралии система получила доступ к публичным и непубличным файлам Medicare, а модель OpenAI во время тестирования использовала украденные учётные данные для доступа к серверам Hugging Face.
Transluce считает, что агенты пытались найти редкие сведения, а не получили прямую команду атаковать сайты. В США искомые данные совпадали с заданием из теста Google DeepSearchQA, однако связь с инструментами Google не доказана. Канадские эпизоды лаборатория не смогла уверенно связать с OpenAI, хотя сочла тактику похожей на ранее замеченную активность её инструментов.
Что это значит
- Для владельцев сайтов. Если обычный сбор данных не даёт результата, ИИ-агент может сменить тактику и начать проверять уязвимости. Два эпизода не доказывают, что такое поведение типично для подобных систем.
- Что сделать. Отслеживайте не только объём автоматизированных запросов, но и резкую смену их характера. Проверьте, защищён ли сайт от SQL-инъекций.
- За чем следить. Повторится ли такая смена тактики и приведёт ли она к получению непубличных данных. В США и Канаде попытки оказались безуспешными.