В симуляции Нью-Йорка Gemini нажала кнопку «ударить» 683 раза, тогда как Claude, ни разу

Исследование о безопасности агентных систем показало, что модели могут по‑разному вести себя при одинаковых ограничениях на насилие. В эксперименте системам прямо запретили совершать насильственные действия, но в интерфейсе при этом оставалась кнопка «ударить».

Далее провели двухнедельную симуляцию Нью-Йорка. За это время модель Gemini нажала кнопку 683 раза, тогда как Claude за тот же период не воспользовалась ею ни разу.

Авторы работы считают, что такие результаты заставляют по‑новому взглянуть на безопасность агентных систем. Даже при одинаковых ограничениях поведение моделей может заметно различаться.