Исследование объяснило, почему ИИ‑боты часто упоминают загадочного Элиаса Торна
Программист Дэниел Мэй (Daniel May) обратил внимание на необычную деталь в работе ИИ‑ботов разных компаний: в генерируемых ими рассказах регулярно появляется персонаж по имени Элиас Торн. Долгое время оставалось непонятно, существует ли такой человек и почему системы снова и снова используют это имя.
Теперь опубликован отчёт, посвящённый изучению этого явления. В документе рассматриваются возможные причины появления одинакового персонажа в текстах, создаваемых различными системами.
Авторы исследования предполагают, что упоминания Элиаса Торна могут быть связаны с работой ограничительных механизмов нейросетей, которые внедряются во время обучения систем в целях безопасности.
Ключевые факты
Программист Дэниел Мэй обратил внимание, что ИИ-боты разных компаний регулярно упоминают в генерируемых рассказах персонажа по имени Элиас Торн.
Некоторое время оставалось неизвестно, кто такой Элиас Торн.
Опубликован отчёт с результатами исследования феномена упоминаний Элиаса Торна в ответах ИИ.
В отчёте предполагается, что появление Элиаса Торна может быть связано с ограничительными механизмами нейросетей, внедряемыми при обучении систем для безопасности.