Системы искусственного интеллекта все быстрее входят в повседневную жизнь, и темпы их развития уже начинают опережать наше понимание того, как именно они работают. Одновременно растет и способность ИИ разбираться в человеческом поведении. К такому выводу пришли авторы исследования, главный научный сотрудник Microsoft Эрик Хорвиц и специалист Швейцарской высшей технической школы Лозанны Роберт Вест.
Исследователи описывают три области, где работа искусственного интеллекта становится для людей все менее прозрачной. Первая связана с появлением ИИ, который создает другой ИИ. Такие системы начинают проектировать и улучшать новые нейросети. Подобные проекты появляются все чаще, а циклы их развития идут быстрее, чем люди успевают их осмыслить, и происходят в «многомерных пространствах, сопротивляющихся интуиции». Производительность при этом может расти очень быстро, но понять, почему и каким образом возникают эти улучшения, становится все труднее.
Вторая тенденция касается взаимодействия между ИИ-агентами. Авторы отмечают, что такие агенты уже массово образуют мультиагентные экосистемы. Их внутренняя коммуникация со временем может все дальше отходить от человеческого языка.
Ключевые факты
Исследование подготовили главный научный сотрудник Microsoft Эрик Хорвиц и специалист Швейцарской высшей технической школы Лозанны Роберт Вест.
Авторы выделяют три области, в которых системы искусственного интеллекта становятся менее понятными для человека.
Одна из тенденций, появление ИИ, который проектирует и совершенствует другие нейросети, при этом циклы разработки происходят в «многомерных пространствах, сопротивляющихся интуиции».
Еще одна тенденция, формирование мультиагентных экосистем, где ИИ‑агенты массово взаимодействуют друг с другом, а их внутренняя коммуникация может отдаляться от человеческого языка.