Я, вы же помните, стараюсь не писать о Grok, но это прямо тема последней недели и очень характерная.

В конце декабря 2025 года xAI выкатила в Grok функцию редактирования изображений. Довольно быстро выяснилось, что пользователи нашли ей применение, не предусмотренное разработчиками. Фильтры безопасности оказались настолько условными, что простейшие промты вроде «bikini» или «transparent dress» фактически “раздевали” изображение на фотографии.

Среди пострадавших — Эшли Сент-Клэр, мать одного из детей Маска, чью подростковую фотографию бот услужливо «переодел» в бикини. По данным AI Forensics, около 2% сгенерированных изображений затрагивали несовершеннолетних — и это уже совсем другая статья, причём в буквальном смысле.

С реакцией Маска тоже все предсказуемо — он 3 января “официально” заявил, что все, кто будет использовать Grok для генерации незаконного контента, будут привлечены к ответственности. То есть буквально как прапорщики поезд останавливают. При этом миллиардер не удержался от смайликов под некоторыми постами.

Регуляторы юмор не оценили — Ofcom, Еврокомиссия и австралийские власти требуют объяснений (Еврокомиссия официально приказала сети сохранить логи до конца года для проведения расследования), а в Британии заговорили о блокировке платформы.

Любопытно, что технически задача фильтрации подобных запросов давно решена конкурентами. OpenAI и Midjourney справляются с этим вполне успешно. CNN сообщает, что Маск во внутренних дискуссиях настаивал на ослаблении guardrails — собственно, его позиция в отношении того, что он называет woke censorship, известна. Как известны и многочисленные скандалы из-за того, что его Groq то Гитлера похвалит, то, теперь вот, людей разденет.

При этом проблема не решается быстро, судя по всему — прямо сейчас предпочли просто ограничить возможность использования этой функции для платных пользователей.