Исследователи DeepMind предупредили о политических конфликтах из‑за споров о сознании ИИ
Исследователи Google DeepMind Адам Бейлс и Иасон Габриэль считают, что споры о том, способен ли искусственный интеллект обладать сознанием, со временем могут выйти за пределы академической дискуссии и стать политической проблемой. Об этом они пишут в работе Artificial Minds, Human Disagreement: The Politics of AI Consciousness. По их мнению, разногласия вокруг этой темы могут оказаться глубокими и плохо поддающимися разрешению.
Авторы предполагают, что общество будет реагировать на более продвинутые ИИ-системы по-разному. Одни люди начнут выстраивать с ними эмоциональные отношения и приписывать им сознание. Другие, напротив, сочтут саму постановку вопроса абсурдной. Как сообщает ForkLog, такое расхождение взглядов способно привести к моральным и политическим конфликтам. Речь может идти, например, о допустимости отключения отдельных систем, о том, нужно ли учитывать их возможные предпочтения, и о более широком обсуждении морального статуса ИИ.
Исследователи подчеркивают, что разговор не должен ограничиваться вопросом «сознателен ли ИИ». Не менее важна другая задача: как принимать решения в ситуации, когда нет ни общественного, ни экспертного согласия. В качестве возможного подхода они предлагают опираться на общественное обсуждение, взаимное уважение и поиск «перекрывающегося консенсуса».
Ключевые факты
Исследователи Google DeepMind Адам Бейлс и Иасон Габриэль заявили, что будущие споры о сознании ИИ могут быть глубокими, трудноразрешимыми и привести к политическим конфликтам.
Их работа называется «Artificial Minds, Human Disagreement: The Politics of AI Consciousness».
Авторы пишут, что обществу важно обсуждать не только вопрос «сознателен ли ИИ», но и то, как принимать решения при отсутствии общественного и экспертного консенсуса.
Возможные конфликты могут касаться вопросов вроде допустимости отключения ИИ‑систем, учета их возможных предпочтений и обсуждения их морального статуса.