Ярослав Якимов: полностью нейтральный ИИ вряд ли достижим
Искусственный интеллект может воспроизводить стереотипы, которые присутствуют в данных для обучения. Алгоритмы получают не только факты, но и социальные и культурные практики, отражённые в созданных людьми массивах информации. Поэтому вместе с полезными сведениями модели нередко перенимают и существующие в обществе предубеждения.
Как сообщает Телеспутник (Telesputnik), директор по развитию технологий и искусственного интеллекта GS Labs Ярослав Якимов говорит, что именно через обучающие данные системы усваивают формы дискриминации. Речь, например, о предвзятости, связанной с полом, цветом кожи или уровнем дохода. По его словам, такое поведение моделей напрямую связано с тем, как устроены и структурированы человеческие данные.
В обсуждении поднимается и другой вопрос: можно ли вообще измерить предвзятость алгоритмов и возможно ли полностью убрать её из систем. Якимов считает, что полностью нейтральный искусственный интеллект, скорее всего, недостижим. Причина в том, что любые модели так или иначе отражают контекст и особенности данных, которые создают люди.
Ключевые факты
Ярослав Якимов, директор по развитию технологий и искусственного интеллекта GS Labs, заявил, что полностью нейтральный ИИ, скорее всего, невозможен.
По его словам, алгоритмы наследуют социальные и культурные практики из созданных людьми данных вместе с содержащимися в них фактами.
ИИ может воспроизводить стереотипы и научился у людей дискриминации по полу, цвету кожи и уровню дохода.
В интервью обсуждается, как измерять предвзятость в системах ИИ и можно ли полностью избавить алгоритмы от таких искажений.