Глава Anthropic призвал ввести обязательную сертификацию передовых ИИ‑моделей перед выпуском

Глава Anthropic Дарио Амодеи призвал ввести обязательную проверку передовых моделей искусственного интеллекта перед их публичным выпуском. Он напомнил, что в авиации самолёты проходят строгие проверки безопасности, тогда как для ИИ‑систем подобного обязательного механизма пока не существует.

По словам Амодеи, процедура сертификации для передовых ИИ‑моделей могла бы помочь снизить риски, связанные с их развёртыванием. Проверку, по его мнению, нужно проводить ещё до выхода модели на рынок, так можно заранее оценить её безопасность и возможные последствия применения.