Apple ужесточила правила App Store для приложений, которые позволяют создавать интимные изображения реальных людей без их согласия, в том числе с помощью искусственного интеллекта. Теперь разработчики должны заранее блокировать появление такого контента и удалять нарушения, иначе приложение могут исключить из магазина.
Компания обновила правила проверки приложений 16 октября. В разделе о пользовательском контенте Apple отдельно упомянула интимные изображения, созданные без согласия изображённого человека. Требование распространяется и на материалы, которые генерируют нейросети.
Особое внимание Apple уделила сервисам, способным по обычной фотографии создать поддельное обнажённое или сексуализированное изображение человека. Подобные материалы относятся к дипфейкам: нейросеть меняет исходное фото или генерирует новое изображение так, будто человек действительно выглядел или действовал подобным образом.
Порнографический контент App Store запрещал и раньше, поэтому Apple скорее уточнила и усилила действующие ограничения. Теперь правила прямо требуют от платформ с пользовательскими публикациями ставить защитные фильтры, принимать жалобы и удалять интимные изображения без согласия людей. Если разработчик не внедрит достаточную защиту или проигнорирует предупреждение Apple, компания может расценить нарушение как несоблюдение кодекса разработчика и удалить приложение.
Одновременно Apple закрыла ещё одну лазейку. Новый пункт 2.5.19 запрещает прятать функции от проверяющих App Store, а затем включать их после одобрения программы. Например, разработчик не может отправить на проверку обычный редактор фотографий, а после публикации открыть инструмент для генерации обнажённых изображений. За скрытые, неактивные или незадокументированные возможности Apple допускает удаление приложения и блокировку учётной записи разработчика.
Проблема вышла далеко за пределы отдельных приложений. Летом власти Сан-Франциско потребовали удалить из App Store и Google Play 13 программ, которые позволяли создавать поддельные обнажённые изображения. В App Store тогда обнаружили восемь из них. Власти города заявили, что подобные сервисы позволяют превращать обычные фотографии реальных людей в интимные материалы без их разрешения.
Apple также уточнила правила для программ, которые помогают эксплуатировать детей или торговать людьми. Компания пообещала удалять такие приложения из App Store и блокировать их распространение альтернативными способами на своих платформах.
