Исследователь Microsoft собрал работающую нейронную сеть прямо в редакторе карт Age of Empires II. Для этой странной на первый взгляд конструкции он использовал игровые объекты: коз, мосты и ледяные пандусы. Выглядит как шутка, но у проекта вполне серьёзная цель. Автор задумывал его как критику некоторых привычных подходов в исследованиях искусственного интеллекта.
Идея проста. Система показывает, насколько интерпретации поведения моделей зависят от интерфейса, через который с ними взаимодействуют. Если вместо обычного чата по карте начинают бродить козы, сама математическая логика модели не меняется. Меняется только восприятие: ощущение разговора с «кем‑то» пропадает.
Исследователь также изучил 315 научных работ. Выяснилось, что более половины из них с самого начала предполагают наличие у языковых моделей человеческих черт, ещё до старта эксперимента. Игровая «нейросеть» служит наглядной иллюстрацией того, как такие исходные предпосылки могут влиять на трактовку результатов в области ИИ.
Ключевые факты
Исследователь Microsoft собрал работающую нейросеть из коз, мостов и ледяных рамп с помощью редактора карт в Age of Empires II.
Проект был создан как критика методов исследований ИИ.
В анализе 315 научных работ автор обнаружил, что более половины из них изначально предполагают у языковых моделей человекоподобные черты до начала эксперимента.
В демонстрации замена чат‑интерфейса на «бродящих коз» не меняет математическую часть модели, но меняет ощущение общения с системой.