Автор колонки о регулировании ИИ призвал закреплять требования к прозрачности в законах

Автор блога werd.io высказался о международном регулировании ИИ и написал, что рекомендации по защите прав и свобод будут работать только в том случае, если появятся обязательные механизмы исполнения. Как сообщает Hacker News, поводом для обсуждения стала публикация Isabelle Anzabi в Tech Policy Press, посвященная роли ООН и международных организаций в формировании правил для ИИ.

В материале напоминают, что на одной из предыдущих встреч UNESCO обсуждали ограничения на использование ИИ для социального скоринга и массовой слежки. Там же говорили о необходимости соблюдать права человека на всех этапах жизненного цикла ИИ-систем. Автор при этом сомневается, что крупнейшие разработчики ИИ и государства, где сосредоточены основные AI-компании, будут добровольно следовать таким рекомендациям, если они не закреплены законодательно.

Отдельное внимание он уделяет рискам непрозрачных «черных ящиков» в ИИ-системах. По мнению автора, государствам и другим влиятельным игрокам не стоит позволять скрытно менять ответы моделей в собственных политических интересах. Прозрачность и возможность аудита, считает он, должны стать обязательным требованием.

Также в тексте отмечается, что чрезмерная риторика о способности ИИ определять будущее целых стран может подталкивать правительства к безусловному внедрению технологии. При этом влияние ИИ на разные отрасли и государства остается неоднородным.