Apple угрожала Илону Маску удалить Grok и X из App Store из-за дипфейков сексуального характера
Разработчикам пришлось изменить приложения
Компания Apple рассказала американским сенаторам о том, как она работала за кулисами над решением проблемы вирусного всплеска сексуализированных дипфейков, созданных Grok в начале этого года.
Ранее в этом году компания Apple подверглась сильному давлению с требованием удалить приложения Grok и X из App Store после того, как пользователи обнаружили, что чат-бот охотно выполнял просьбы раздеть людей на фотографиях, особенно женщин, в том числе несовершеннолетних.
Компания Apple в основном хранила молчание во время скандала, но, как сообщает NBC News, за кулисами компания «обнаружила, что X и Grok нарушают ее правила», и «в частном порядке угрожала удалить» Grok из App Store.
Apple «связалась с командами, стоящими за приложениями X и Grok, после получения жалоб и ознакомления с новостными сообщениями о скандале», потребовав от «разработчиков приложений разработать план по улучшению модерации контента».
В свою очередь, компания X отправила на проверку обновленную версию приложения Grok, но она была отклонена, поскольку «изменения оказались недостаточными». Затем компания Илона Маска представила пересмотренные версии приложений X и Grok, но была принята только одна.
В письме Apple говорилось: «Apple рассмотрела следующие заявки, поданные разработчиками, и определила, что компания X в значительной степени устранила нарушения, но приложение Grok по-прежнему не соответствовало требованиям. В результате мы отклонили заявку Grok и уведомили разработчика о необходимости внесения дополнительных изменений для устранения нарушения, в противном случае приложение может быть удалено из App Store. После дальнейшего взаимодействия и внесения изменений разработчиком Grok мы определили, что Grok существенно улучшился, и поэтому одобрили его последнюю заявку».
Grok — это генеративный чат-бот с искусственным интеллектом, созданный компанией xAI Илона Маска. Он был запущен в конце 2023 года, интегрирован в соцсеть X (Twitter) и позиционируется как более остроумный и свободный от «политической корректности» аналог ChatGPT.
В начале года компания xAI Илона Маска ввела ограничения на возможность редактирования фотографий реальных людей при помощи чат-бота Grok. Это произошло на фоне скандала из-за генерации чат-ботом интимных дипфейк-изображений. Ранее власти Малайзии и Индонезии заблокировали работу Grok на территории своих стран. Ранее премьер-министр Великобритании Кир Стармер заявил, что в данный момент власти должны «рассмотреть все варианты», включая потенциальный запрет платформы X. Великобритания также провела переговоры с Канадой и Австралией о возможном запрете социальной сети Илона Маска.