Исследователи MIT предложили способ решать сложные инженерные задачи, где нужно учитывать сотни переменных и проверять множество дорогих вариантов. Подобные задачи возникают, например, при оптимизации power grid или при проектировании более безопасных автомобилей. Инженерам приходится работать с тысячами деталей и большим числом параметров, от которых зависит итоговый результат. Классические методы оптимизации в таких условиях нередко с трудом находят лучшую комбинацию параметров.
Метод по‑новому использует Bayesian optimization. В тестах на реалистичных инженерных бенчмарках, включая power-system optimization, он находил лучшие решения в 10 to 100 раз быстрее широко применяемых подходов. В основе техники, foundation model, обученная на tabular data. Она сама определяет, какие переменные сильнее всего влияют на улучшение результата, затем повторяет процесс и постепенно уточняет решение. При этом модель можно применять без постоянного переобучения в ходе оптимизации.
Авторы называют такую tabular foundation model «ChatGPT for spreadsheets». И входные, и выходные данные представлены в виде таблиц, что типично для инженерных задач. По принципу работы система напоминает большие языковые модели вроде ChatGPT, Claude и Gemini: она предварительно обучена на большом массиве данных и затем может применяться в разных задачах. Работу выполнили Rosen Yu, Cyril Picard и Faez Ahmed; результаты представят на International Conference on Learning Representations.
Ключевые факты
Исследователи MIT предложили метод, который использует tabular foundation model внутри алгоритма Bayesian optimization для решения инженерных задач с сотнями переменных.
В тестах на инженерных бенчмарках, включая оптимизацию энергосистем, метод находил лучшие решения в 10–100 раз быстрее широко используемых подходов.
Модель обучена на большом объеме табличных данных и может применяться без дополнительного переобучения в процессе оптимизации.
Работа выполнена исследователями Rosen Yu, Cyril Picard и Faez Ahmed из MIT и будет представлена на конференции International Conference on Learning Representations.