Apple удалила из App Store «раздевающие» людей нейросети
. Журналисты нашли несколько таких приложений в свободном доступе в Сети404 Media: Apple удалила из App Store «раздевающие» людей нейросети
Магазин Apple, Нью-Йорк
Apple удалила из фирменного магазина приложений App Store сервисы на основе искусственного интеллекта (ИИ), узнав, что они могут создавать изображения обнаженной натуры, сообщило технологическое издание 404 Media.
Как пишет издание, «Apple удалила три приложения из App Store, но только после того, как мы предоставили компании ссылки на конкретные приложения и связанную с ними рекламу». По мнению авторов портала, компания сама не сумела выявить сервисы, нарушающие ее политику.
Как программы изначально попали в App Store, не поясняется, но они активно рекламировались в социальных сетях и предлагали ИИ-инструменты для «раздевания» людей с фотографий. Подобные сервисы противоречат стандартам Apple, так как фоторедактор не может быть использован без согласия изображенных на фотографиях людей.
Всего таких приложений журналисты нашли пять. Два относились к веб-сервисам, и компания Metа (признана в России экстремистской организацией и запрещена) удалила рекламу на своих ресурсах после того, как редакция 404 Media отметила их. Еще три приложения касались Apple App Store. Компания запросила у редакции подробности о находке, а затем сообщила, что удалила три приложения из своего App Store.
Редактор 404 Media Эмануэль Майберг полагает, что в будущем ситуация может повториться, так как система модерации Apple не смогла выявить нарушения, пока на приложения не обратили внимание журналисты. Как пишет издание, подобные инструменты уже неоднократно становились в США поводом для разбирательств.
Так, в средней школе штата Вашингтон недавно полиция расследовала случай, когда несколько учеников использовали приложения для «раздевания»: сначала делалось настоящее фото человека, затем нейросети запечатленного на снимке «раздевали». Как было указано в полицейском отчете, молодые люди нашли рекламу приложения в TikTok (сервис частично заблокирован на территории России).
Ранее юрист Екатерина Лебедева пояснила в беседе с РБК Life, что в России такая юношеская «шалость», если речь идет о старшеклассниках, может обернуться уголовной ответственностью. За пересылку фото одноклассников или просто несовершеннолетних могут привлечь молодых людей, начиная с 16 лет. Если будет доказано, что они причастны к «изготовлению и обороту материалов или предметов с порнографическими изображениями несовершеннолетних», наказанием может стать лишение свободы сроком от трех до десяти лет.
