Генсек ООН призвал запретить летальное автономное оружие
Генеральный секретарь ООН Антониу Гутерриш на открытии первого Глобального диалога по управлению ИИ в Женеве призвал страны установить четкие ограничения на использование искусственного интеллекта в вооруженных конфликтах и запретить летальное автономное оружие. По его словам, системы, способные самостоятельно выбирать цели и убивать людей без участия человека, должны быть запрещены на международном уровне.
Гутерриш подчеркнул, что решения о лишении жизни должны оставаться за человеком. На фоне активного внедрения ИИ в армии разных стран споры вокруг автономного оружия становятся все острее. Военные используют алгоритмы как на поле боя, так и в командных центрах, чтобы быстрее обрабатывать данные и помогать командирам принимать решения. Как пишет SecurityLab (by Positive Technologies), сторонники военного ИИ уверены, что окончательный контроль останется у людей. Критики же предупреждают о возможных ошибках алгоритмов и постепенной передаче контроля машине.
В дискуссию о военном применении ИИ вовлечены и технологические компании. Anthropic судится с Пентагоном после попытки добиться гарантий, что модели компании не будут использоваться для автономного оружия или внутренней слежки. Министерство обороны США, со своей стороны, настаивает на доступе к ИИ для любого законного применения. К критике автономных вооружений присоединился и папа Лев XIV. Он заявил, что такое оружие может сделать войны проще для начала и сложнее для контроля.
Ключевые факты
Первый Глобальный диалог по управлению ИИ проходит в Женеве
В обсуждении участвуют более 4000 представителей правительств, университетов, технологических компаний и других организаций
Антониу Гутерриш предложил прямо называть полностью автономные боевые системы «роботами-убийцами»
Anthropic судится с Пентагоном из-за попытки получить гарантии против использования моделей компании для автономного оружия или внутренней слежки