FLI запустил инициативу с призывом запретить разработку superintelligence до подтверждения её безопасности
Future of Life Institute (FLI) объявил о запуске инициативы, которую поддержала политически и профессионально разнородная коалиция учёных, религиозных лидеров, политиков, актёров и других публичных фигур. В заявлении предлагается запретить разработку superintelligence до тех пор, пока технология не станет надёжно безопасной и контролируемой и не получит общественную поддержку. Среди первых подписантов указаны Yoshua Bengio, Geoffrey Hinton, Steve Bannon, Glenn Beck, Susan Rice, Steve Wozniak, Richard Branson, Mary Robinson, Stephen Fry и Joseph Gordon-Levitt, а также сотни других участников, включая лауреатов Нобелевской премии.
В коалицию также вошли Mike Mullen, Johnnie Moore, Walter Kim, Paolo Benanti, Joseph Gordon-Levitt, will.i.am, Prince Harry, Meghan, Geoffrey Hinton, Stuart Russell, Beatrice Fihn, Frank Wilczek, John C. Mather, Daron Acemoğlu, Richard Branson и Steve Wozniak. Подписанты представляют самые разные области: от исследователей AI и экспертов по национальной безопасности до религиозных лидеров и деятелей культуры. Yoshua Bengio заявил, что frontier AI systems могут превзойти большинство людей в большинстве когнитивных задач уже через несколько лет. По его словам, чтобы безопасно двигаться к superintelligence, необходимо научно определить, как создавать системы AI, которые фундаментально неспособны причинять вред людям.
Одновременно FLI опубликовал результаты национального опроса в США. Только 5% респондентов поддерживают текущий статус нерегулируемого развития AI, 73% выступают за жёсткое регулирование. Ещё 64% считают, что superintelligence не должна разрабатываться, пока не появится научное согласие о её безопасности и контролируемости. Президент Future of Life Institute Max Tegmark заявил, что 95% американцев не хотят гонки к superintelligence, тогда как эксперты предлагают её запретить.
Ключевые факты
Future of Life Institute запустил инициативу с призывом запретить разработку superintelligence до тех пор, пока технология не станет надежно безопасной, контролируемой и не получит общественное одобрение.
Среди подписантов инициативы, Yoshua Bengio, Geoffrey Hinton, Stuart Russell, Richard Branson, Steve Wozniak, Susan Rice, Mary Robinson, Stephen Fry, Joseph Gordon-Levitt, а также несколько лауреатов Нобелевской премии и другие общественные деятели.
Опрос в США показал, что только 5% поддерживают текущий статус-кво нерегулируемой разработки AI, 73% выступают за жесткое регулирование, а 64% считают, что superintelligence не следует разрабатывать до научного согласия о ее безопасности и контролируемости.
По данным опроса, 95% американцев не хотят гонки к superintelligence; при этом ведущие эксперты по AI считают, что такие системы могут появиться менее чем через ten years.