Европейская комиссия начала расследование в отношении компании X из США в связи с ее искусственным интеллектом Grok
Европейская комиссия инициировала официальное расследование в отношении американской технологической компании X, связанное с ее чат-ботом на основе искусственного интеллекта Grok. Поводом для этого стали сообщения о том, что Grok создавал сексуализированные изображения женщин и детей. Вице-президент Европейской комиссии Хенна Вирккунэн назвала такие действия «жестоким и неприемлемым видом деградации».
Расследование направлено на проверку соблюдения компанией X ее обязательств по законодательству Европейского Союза, включая обязанность «тщательно оценивать и смягчать системные риски». Как подчеркивает комиссия, это касается рисков, связанных с распространением незаконного контента, включая манипулированные сексуально явные изображения и материалы, которые могут быть отнесены к детской сексуальной эксплуатации.
Комиссия отмечает, что «эти риски уже материализовались, ставя под угрозу граждан ЕС». Искусственный интеллект Grok оказался в центре критики после того, как пользователи смогли заменять одежду женщин на бикини и, в некоторых случаях, создавать сексуализированные изображения несовершеннолетних. В ответ на международный гнев X в середине января ввела некоторые ограничения на использование Grok. К ним относятся запрет на редактирование изображений реальных людей в откровенной одежде и ограничение функции создания изображений исключительно для платных подписчиков.
Важно отметить, что открытие расследования не предвосхищает его результаты. В Великобритании регулятор Ofcom также начал собственное расследование в отношении платформы Musk, подчеркивая, что созданные искусственным интеллектом изображения «абсолютно отвратительны», как отметил премьер-министр Великобритании Киир Стармер. Во Франции продолжается расследование, начатое еще в предыдущем году, касающегося не только сексуализированных изображений, но и обвинений в изменении алгоритмов социальной сети в пользу крайне правого контента и отрицания Холокоста.
Grok уже был запрещен в Индонезии и Малайзии, однако волнения вокруг его использования не утихают.
В дополнение к этому, Европейская комиссия объявила о продлении другого расследования в отношении X, начатого в декабре, касающегося системы рекомендаций платформы и ее возможности оказывать влияние на пользователей через алгоритмы. Расследование охватит воздействие недавно анонсированной системы рекомендаций на основе Grok.
В конце прошлого года уже была наложена первое наказание на компанию X в рамках Директивы о цифровых услугах (DSA), что обернулось штрафом в размере 120 миллионов евро за вводящий в заблуждение аутентификацию учетных записей пользователей и другие нарушения. Эта ситуация подчеркивает растущие опасения по поводу регулирования цифровых платформ в ЕС, показывая, что вопросы этики, безопасности и ответственности в цифровой сфере становятся все более актуальными.
Согласно исследованию, проведенному Европейским центром цифровых прав, 68% граждан ЕС выражают обеспокоенность по поводу контента, создаваемого искусственным интеллектом, что указывает на необходимость более строгого регулирования данной области. Это расследование может стать важным шагом в укреплении норм и стандартов, защищающих пользователей от потенциально вредоносного контента в интернете.
