Новости из мира AI — компания Anthropic, разработчик constituonally-driven AI-бота Claude, анонсировала запуск контекста из 100k токенов. Практически это означает, что вы можете одним запросом запихать 75000 слов (многие романы меньше) в бот и получить ответ относительно него. В примере разработчики дали боту текст романа «Великий Гэтсби» и изменили в нем одну фразу — бот за 22 секунды нашел несоответствие.

Это уже более чем серьезное достижение, которое позволит работать действительно с большими объемами информации при дообучении собственных моделей на базе такого бота — все восхищены возможностями GPT-4, в котором окно контекста сейчас ограничено 32 тысячами токенов, а тут оно втрое больше.

Правда, это тот самый бот, о котором я рассказывал в минувшем выпуске подкаста, когда описывал, как мне AI придумал массу фактов про торговые центры в Канаде. Представляете, что он сможет придумать, имея такие возможности? 😊