К содержанию
Новости

Исследование: масштабирование данных не выводит машинное обучение на уровень символического логического рассуждения

Авторы новой работы разбирают пределы так называемого scaling law применительно к логическому выводу. Отправной точкой стали Sphere neural networks. По утверждению исследователей, такие сети способны выполнять силлогистические рассуждения на символическом уровне и делают это без обучающих данных. Отсюда возникает вопрос: могут ли системы машинного обучения, которые зависят от данных, выйти на тот же уровень, если просто наращивать объем обучающих выборок и увеличивать время обучения.

Как сообщает arXiv cs.AI (Artificial Intelligence), в исследовании указаны две методологические проблемы, мешающие supervised deep learning достигать символического уровня силлогистического вывода. Первая связана с обучающими данными: они не позволяют различить все 24 типа корректного силлогистического рассуждения. Вторая проблема возникает из-за сквозного отображения от посылок к заключению. В такой схеме внутри модели появляются противоречивые цели обучения между компонентами, которые отвечают за распознавание паттернов, и теми, что участвуют в логическом рассуждении.

Помимо теоретического анализа авторы приводят и экспериментальный пример. Модель Euler Net не смогла показать строгого силлогистического рассуждения. Также были протестированы последние версии ChatGPT, GPT-5-nano и GPT-5. Их проверяли на задаче определения выполнимости силлогистических утверждений в четырех формах представления: words, double words, simple symbols и long random symbols. Эксперименты показывают, что форма представления влияет на результат рассуждения. При этом GPT-5 в отдельных условиях может достигать 100% accuracy.

Ключевые факты

  • Препринт arXiv:2606.26454v1 утверждает, что sphere neural networks достигли символического уровня силлогистического рассуждения без обучающих данных.

  • Авторы описывают два ограничения supervised deep learning: обучающие данные не различают все 24 типа корректных силлогизмов, а сквозное сопоставление посылок и вывода создаёт противоречивые цели обучения между компонентами распознавания паттернов и логического рассуждения.

  • Экспериментально показано, что модель Euler Net не достигает строгого силлогистического рассуждения.

  • В тесте на определение выполнимости силлогистических утверждений ChatGPT GPT-5-nano и GPT-5 проверялись на четырёх формах представления, words, double words, simple symbols и long random symbols; при этом форма представления влияет на качество рассуждения, а GPT-5 может достигать 100% accuracy.