Anthropic запускает Claude для Chrome в режиме ограниченного пилота с 1000 пользователей Max плана. Пока это расширение для браузера, для желающих есть лист ожидания — если что, я записался.
Большим вопросом в части использования AI в браузере компания видит безопасность (она везде её так видит, если что, миссия обязывает). Но в данном случае опасения не излишни — пуская AI использовать браузер, вы так или иначе доверяете ему полный контроль над вашими данными, ведь как иначе AI сможет забронировать и оплатить авиабилеты, например?
Anthropic сразу честно признаёт: без защитных мер каждая четвёртая попытка prompt injection атаки оказывалась успешной — 23.6%. С новыми защитами удалось снизить до 11.2%.
Поэтому на данный момент AI не будет использовать сайты из категории высокого риска — в первую очередь, это финансовые сервисы и Adult content. В остальном у пользователей будет возможность заблокировать или разрешить использование определенных сайтов, а перед рисковыми операциями AI будет дополнительно просить подтверждение.