Apple 16 октября обновила правила проверки приложений для App Store. Требования к модерации пользовательского контента теперь прямо охватывают интимные изображения, созданные без согласия человека, в том числе с помощью искусственного интеллекта. Разработчики должны предотвращать появление такого контента и удалять его со своих платформ.
Правило распространяется не только на специализированные генераторы изображений, но и на приложения, где пользователи могут создавать, загружать или публиковать контент. Такие сервисы также должны фильтровать недопустимые материалы, принимать жалобы и позволять блокировать нарушителей. Если разработчик не внедрит достаточную защиту или не устранит нарушение после уведомления, Apple может удалить приложение из App Store.
Отдельно компания уточнила запрет на скрытые, неактивные во время проверки и незадокументированные функции. Правило 2.5.19 охватывает приложения, которые показывают модераторам одну версию продукта, а после одобрения добавляют возможности, отсутствовавшие в отправленной сборке. Apple называет такую подмену bait-and-switch и приводит в пример сервисы, включающие инструменты «раздевания» людей только после проверки. За это компания может удалить приложение из App Store, а разработчика исключить из Apple Developer Program.
Подобный механизм использовали и замаскированные азартные сервисы. В июле 9to5Mac обнаружило 62 приложения, которые за пределами Бразилии выглядели как игры и утилиты, а при подключении с бразильского IP-адреса открывали платформы для ставок. Некоторые из них были доступны детям из-за возрастного рейтинга.
В разделе 5 Apple закрепила, что будет удалять из App Store и блокировать в альтернативных каналах распространения приложения, способствующие торговле людьми или эксплуатации детей, включая приложения с материалами сексуализированного насилия над детьми.