Bruce Schneier: компании должны нести ответственность за ошибки ИИ
Эксперт по безопасности Брюс Шнайер прокомментировал недавнее решение в Германии: согласно ему, Google может нести ответственность за ошибки, появляющиеся в его AI‑сводках. По мнению Шнайера, ИИ‑агенты следует рассматривать как агентов той организации или человека, которые ими пользуются. Значит, к их действиям должны применяться те же правовые принципы ответственности.
Он приводит простой пример. Если бы компания наняла людей, чтобы писать такие резюме, именно она отвечала бы за любые неточности в текстах. Поэтому, считает Шнайер, бизнес не должен иметь возможности ссылаться на «ошибки ИИ», чтобы уходить от ответственности за опубликованную информацию.
Как сообщает Simon Willison's Weblog, Шнайер предупреждает: если компаниям позволят прикрываться сбоями AI, это станет серьезной уступкой бизнесу и создаст опасные стимулы. В такой логике у работодателей возникнет вполне прагматичный вопрос. Зачем нанимать людей, писателей, юристов или врачей, если системы AI дешевле и при этом позволяют избегать ответственности, когда допускают ошибки.
Ключевые факты
Брюс Шнайер прокомментировал недавнее решение суда в Германии о том, что Google может нести ответственность за ошибки, появляющиеся в AI Overviews.
Шнайер утверждает, что AI‑агенты являются агентами человека или организации, которые их используют, и должны рассматриваться законом именно так.
Он проводит аналогию: если бы компания наняла людей для написания таких сводок, она несла бы ответственность за неточности в них.
Шнайер предупреждает, что разрешение компаниям ссылаться на «ошибки ИИ» как оправдание стало бы крупной уступкой бизнесу и создало бы опасные стимулы для корпоративного поведения.