ФСТЭК предложила включить защиту информации при использовании моделей ИИ в требования для государственных информационных систем и других систем госорганов и госучреждений. Это пока проект для общественного обсуждения, но формулировка уже достаточно практическая: меры должен реализовать оператор, то есть обладатель информации в системе.
Для бизнеса здесь важен не сам факт появления еще одного документа про ИИ. Важен адресат. Требования предполагается добавить в приказ ФСТЭК № 117, а значит, безопасность ИИ перестает быть факультативным разделом презентации поставщика и становится частью общего контура защиты информационной системы.
Что предложила ФСТЭК
Как пишет D-Russia, проект изменений опубликован для общественного обсуждения. Если в информационной системе применяются модели искусственного интеллекта, оператору предлагается вменить реализацию мероприятий и мер защиты информации.
Публикация D-Russia не раскрывает полный перечень этих мер, поэтому приписывать проекту конкретные технические запреты пока нельзя. Но направление видно уже из конструкции нормы: защищать придется не модель в вакууме, а ее применение внутри системы, за которую отвечает оператор.
Это принципиальная разница. Модель может быть собственной или внешней, работать как отдельный сервис или быть встроенной в прикладной процесс. Для ФСТЭК, судя по проектной формулировке, ключевым становится сам факт ее использования в ГИС или иной системе государственного органа либо учреждения.
Инвентаризация нужна до появления финального текста
Практический вывод для интегратора прост: пора составлять карту ИИ-контура. Где находится модель, через какие интерфейсы она подключена, какие данные получает, куда отправляет результат, кто меняет ее настройки, как обновляются компоненты и где сохраняются запросы и ответы. Это не перечень требований ФСТЭК, которого в доступной публикации нет, а минимальный способ понять собственную поверхность защиты до того, как регулятор зафиксирует детали.
Отдельно стоит разобрать ответственность. Формально проект говорит об операторе или обладателе информации. Но техническая работа почти неизбежно спускается к подрядчику: именно он проектирует интеграцию, выбирает компоненты и описывает эксплуатацию. Заказчик может отвечать перед регулятором, однако счет за переделку архитектуры обычно возникает там, где раньше решили, что ИИ-модуль можно прикрутить после запуска.
Поэтому новые ТЗ разумно уже сейчас проверять на три вещи. Выделен ли ИИ-контур отдельно, описаны ли его потоки данных и заложены ли ресурсы на меры защиты и проверку их эффективности. Иначе фиксированная цена проекта превратится в пари на то, что итоговая редакция требований окажется мягкой.
Регулирование смещается от моделей к местам их применения
До сих пор публичная дискуссия часто крутилась вокруг больших моделей как самостоятельного объекта. В июне правительственная комиссия одобрила законопроект о развитии ИИ, требования которого, по данным ForkLog, относились к большим фундаментальным моделям с числом параметров более 1 млрд. В июле Госдума приняла этот рамочный законопроект в первом чтении, сообщал Hi-Tech Mail.
Проект ФСТЭК идет с другой стороны. Ему не обязательно определять, достаточно ли модель большая или фундаментальная. Если она применяется внутри защищаемой информационной системы, появляется отдельный вопрос о мерах безопасности. Для поставщика небольшой модели это важнее дискуссии о миллиарде параметров: скромный классификатор или помощник может не выглядеть объектом большой ИИ-политики, но его интеграция все равно окажется частью регулируемого контура.
Это не одиночный сигнал. В июле ФСТЭК также подготовила новые требования к защите персональных данных, где, по данным IT World и CNews, появились отдельные меры для ИИ и обязательная оценка эффективности механизмов безопасности. Складывается вполне читаемая логика регулятора: важна не вывеска технологии, а то, какие данные она затрагивает и насколько работают заявленные меры.
Выиграют команды, у которых архитектура, документация и ответственность за ИИ-компоненты уже разделены. Заплатят те, кто продавал модель как магическую коробку с одним API и оставлял безопасность на этап приемки. Магия обычно заканчивается там, где заказчик просит показать схему потоков данных.
Что смотреть дальше
Главный маркер появится в итоговой редакции изменений к приказу № 117. Нужно проверить, сохранится ли обязательная формула о реализации мер оператором и появится ли детальный перечень требований именно к использованию моделей ИИ.
Второй маркер для рынка еще практичнее: отдельные требования к ИИ-контуру начнут появляться в ТЗ государственных заказчиков. Если это произойдет, проект ФСТЭК уже повлиял на рынок независимо от скорости формального утверждения. До этого момента подрядчику дешевле провести инвентаризацию самому, чем потом доказывать, что модель в его системе была всего лишь безобидной кнопкой.