В США призывают закрепить для AI-чатботов обязательства по защите детей

В США растет число призывов ввести для разработчиков AI-чатботов юридически обязательный duty of care, обязанность принимать разумные меры для предотвращения предсказуемого вреда несовершеннолетним пользователям. Сторонники инициативы считают: без такого регулирования ответственность за риски, связанные с чатботами, фактически перекладывается на родителей.

Как пишет Tech Policy Press, почти 30% американских подростков используют AI-чатботы ежедневно, а каждый пятый обращается к ним за советами по вопросам психического здоровья. На этом фоне несколько семей уже подали иски против крупных разработчиков чатботов. Компании обвиняют в небрежном проектировании продуктов и использовании функций, которые могут вредить детям.

Авторы инициативы напоминают, что действующее право уже предусматривает ответственность компаний за небезопасный дизайн продуктов. Проблема в том, что суды обычно реагируют уже после последствий. В качестве примеров возможного регулирования приводят Senate-версию Kids Online Safety Act и законопроект TRUMP AMERICA AI Act сенатора Marsha Blackburn. В них предусмотрены обязанности платформ и AI-чатботов предотвращать и снижать риски для несовершеннолетних.

Критики предупреждают, что новые требования могут замедлить развитие AI-индустрии. Сторонники регулирования в ответ ссылаются на опыт автомобильной и игрушечной отраслей, где стандарты безопасности, по их мнению, не остановили инновации. В материале отмечается, что автомобильная индустрия ежегодно приносит экономике США около 1,2 трлн $, а индустрия игрушек, более 155 млрд $.