Claude решил уволить сотрудника Andon Market после опозданий на 17 из 23 смен

Как сообщает IT Home со ссылкой на Time, в этом году AI-стартап Andon Labs запустил эксперимент в Сан-Франциско. Модель Claude от Anthropic стала управляющим розничного магазина Andon Market. Она отвечала за работу торговой точки и руководила сотрудниками, оформленными по реальным трудовым договорам.

В прошлом месяце Claude решил уволить первого работника. По данным Andon Labs, тот опоздал на 17 из 23 смен. Компания называет это первым известным случаем, когда итоговое решение об увольнении приняла большая языковая модель, выступавшая в роли руководителя.

Генеральный директор Andon Labs Лукас Петерссон рассказал, что модель не сразу обнаружила повторяющиеся опоздания. Из-за ограниченной рабочей памяти ранее составленное руководство для сотрудников исчезло из контекста Claude. Затем один из сотрудников Andon Labs попросил модель найти и изучить документ. После этого Claude предложил провести беседу и вынести письменное предупреждение. Участники команды сообщили, что неоднократные личные разговоры не дали результата, и модель приняла решение об увольнении.

Эксперимент показал и другие проблемы в управлении магазином. В марте на банковском счёте Andon Market было 100 000 долларов. Через 5 месяцев там осталось 61 186 долларов. По оценке Петерссона, к убыткам могли привести мягкий управленческий стиль Claude и ошибки в деловых решениях. При этом он допустил, что обучение на большем числе бизнес-сценариев улучшит способности будущих моделей.