Минцифры Украины запустило чатбота на сайте Дія, утверждая, что это первый в мире AI-ассистент, который может предоставлять государственные услуги.
Вы знаете мой скептицизм относительно деятельности этого министерства и, в общем, он меня пока не подвел. Бот действительно есть, но ожидания он занижает сразу, сообщая, что он ассистент по сайту «Дія». Впрочем, в справке и других местах он утверждает, что он прямо ассистент в мире госуслуг. Но первое впечатление правильное — это RAG-бот, у которого в контексте есть содержание сайта и он примерно на уровне gpt-4 отвечает на вопросы, касающиеся этого содержания. Как видно на скриншоте, сведения, напрямую относящиеся к теме, но отсутствующие на сайте, ему недоступны.
Судя по некоторой задержке и индикации процесса в чате, я бы предположил, что там используется какая-то легкая открытая модель, умеющая reasoning, впрочем, это может быть даже и gpt-oss-120b. Учитывая, что партнером проекта подписался выступить Киевстар, поднять соответствующие мощности для инференса не выглядит невозможным. Хотя всё может быть проще и там внутри что-то типа mistral с CoT, а весь процесс просто рисуется фронтендом поверх Chainlit. Кхм, я сам только что так сделал 😊.