Microsoft AI формирует команду по суперинтеллекту под руководством своего вице-президента по AI Мустафы Сулеймана, со-основателя DeepMind. Но задачей подразделения будет не гонка за AGI. Вместо этого цель компании — “гуманистический суперинтеллект” (Humanist Superintelligence — HSI), набор узкоспециализированных систем с жесткими ограничениями автономности. “Мы отвергаем нарратив о гонке к AGI”, — пишет Сулейман.

Возможно, это попытка диверсифицироваться — ведь инвестиции в OpenAI тоже никто не отменял.

Сулейман прямо пишет о главной проблеме: никто не знает, как гарантировать безопасность постоянно улучшающегося суперинтеллекта. И предлагает обходной путь — доменно-специфичные системы. Как, например, уже имеющийся пример использования AI в медицине — помните пример с диагностикой, где AI ставил более точные диагнозы, чем люди?