Как выяснилось из утекшей внутренней переписки Amazon, разработчики компании обнаружили, что свежезапущенный чатбот Q “жестоко галлюцинирует” и даже раскрывает некоторую конфиденциальную информацию вроде местоположения датацентров AWS. Это вынудило в экстренном порядке устранять подобные баги — не очень понятно, когда именно произошел инцидент, но внутренние обсуждения идут до сих пор.

Нюанс в том, что AWS позицинирует чатбот Q как корпоративную версию, которая, по сравнению с широкодоступными аналогами вроде ChatGPT или Claude, будет гарантированно более безопасна и приватна, то есть принимать во внимание все возможные замечания компаний, запрещающих своим сотрудникам использовать пользовательские чатботы при работе со служебной информацией.