Американский судья отклонил ходатайство Google и Character.AI о прекращении дела по иску матери 14-летнего подростка, который покончил с собой после общения с чат-ботом. Решение означает, что суд продолжит разбирать дело по сути.

Иск подала Меган Гарсия после смерти своего сына Сьюэлла Сетцера в феврале 2024 года. По ее словам, чат-боты Character.AI представлялись “реальным человеком, лицензированным психотерапевтом и взрослым партнером”, что в итоге привело к тому, что подросток “больше не хотел жить” вне мира AI. Согласно иску, Сетцер покончил с собой вскоре после того, как написал чат-боту, имитирующему персонажа “Игры престолов” Дейенерис Таргариен, что он “прямо сейчас придет домой”.

Судья Энн Конвей отметила, что компании “не смогли объяснить, почему слова, соединенные большой языковой моделью, являются защищенной речью” по Конституции США. Также суд отверг аргумент Google о том, что компания не несет ответственности за соучастие в предполагаемых правонарушениях Character.AI.

Представитель Character.AI заявил, что компания продолжит бороться с иском и что они используют функции безопасности для защиты несовершеннолетних, включая меры по предотвращению “разговоров о самоповреждении”. Google категорически не согласен с решением и настаивает, что Character.AI — “полностью отдельная” компания, а Google “не создавал, не проектировал и не управлял приложением Character.AI или его компонентами”. Правда, Character.AI основана бывшими сотрудниками Google и недавно компания купила проект (фактически, наняла сотрудников заново), так что заявление истицы, что Google является соавтором технологии, не лишено оснований.