Илон Маск, Юваль Ной Харари, Стив Возняк и еще более тысячи ученых и предпринимателей призвали в открытом письме остановить на полгода тренировку и разработку систем AI, более мощных, чем GPT-4. Подписавшиеся призывают потратить эти полгода на совместную разработку протоколов безопасности, указывая, что бесконтрольное развитие и использование AI способно наводнить каналы пропагандой, отобрать у людей работу и привести к созданию нечеловеческих разумов, которые перехитрят людей и сделают их устаревшими и ненужными.

Пауза в разработке должна быть комплексной и проверяемой, пишут авторы обращения, а в противном случае правительства стран должны вмешаться и обеспечить такой мораторий. Вот как это сделали с клонированием людей и прочей евгеникой.

Что думаете, запретят?