Anthropic сотрудничает со специалистами по ядерной энергетике Министерства энергетики США, чтобы убедиться, что AI не раскрывает информацию, необходимую для построения ядерного оружия. Пока речи о какой-то серьезной угрозе не идет — это лишь “стресс-тест” с участием кризисных команд, которые отрабатывают различные варианты.

Понятно, что реальные результаты стресс-тестирования публике не покажут.

Пилотное сотрудничество началось с февраля этого года и “красная команда” администрации по национальной ядерной безопасности получила заранее доступ к модели Sonnet 3.5.

А я было подумал, что это они реагируют на вчерашнюю новость про то, что Украина может быстро создать ядерное оружие…