Метод generative causal testing превращает модели предсказания активности мозга в проверяемые гипотезы
Модели на базе LLM уже умеют довольно точно предсказывать, как мозг человека реагирует на язык. Если дать системе тот же рассказ, который человек слушает во время fMRI-сканирования, её внутренние представления могут предсказать активность отдельных участков коры. При этом такие модели остаются по сути «чёрным ящиком». Внутри огромные массивы параметров, и из них трудно извлечь понятное научное объяснение того, на какие именно аспекты языка реагирует конкретная область мозга.
Исследователи из Microsoft Research вместе с University of California, Berkeley, University of California, San Francisco и Columbia University предложили метод generative causal testing (GCT). Его задача, превратить предсказания модели в проверяемые гипотезы. Как пишет Microsoft Research Blog, сначала из модели извлекают короткие фразы, которые сильнее всего влияют на прогноз активности конкретного участка коры. После этого LLM формулирует краткое словесное объяснение, например «food preparation» или «location names».
Дальше гипотезу проверяют экспериментально. LLM генерирует новые истории, специально рассчитанные на активацию выбранной области мозга, и участники слушают их во время сканирования. Если объяснение действительно отражает принцип работы участка, целевая зона показывает повышенную активность. В экспериментах GCT подтвердил известную селективность некоторых областей, а также помог различить соседние регионы, связанные с обработкой мест, которые раньше считались взаимозаменяемыми. Кроме того, исследователи обнаружили небольшие префронтальные «micro-regions», настроенные на конкретные концепции, включая dialogue, clock times и measurements. Работа с описанием метода принята к публикации в Nature Neuroscience.
Ключевые факты
LLM‑модели могут с высокой точностью предсказывать реакции человеческого мозга на язык, сопоставляя представления модели с активностью отдельных участков коры при прослушивании тех же историй в fMRI‑сканере.
Фреймворк generative causal testing (GCT) разработан Microsoft Research совместно с University of California, Berkeley, University of California, San Francisco и Columbia University; статья принята в журнал Nature Neuroscience.
GCT сначала превращает предсказательную модель активности мозга в короткое словесное объяснение того, на что реагирует участок коры (например, «food preparation» или «location names»), а затем LLM генерирует новые истории для проверки этой гипотезы в сканере.
В экспериментах GCT подтвердил известную избирательность мозговых областей, разделил соседние регионы обработки мест, ранее считавшиеся взаимозаменяемыми, и выявил небольшие префронтальные «micro-regions», настроенные на такие концепты, как dialogue, clock times и measurements.