Илон Маск, Стив Возняк и другие лидеры it-компаний призвали притормозить…

👁Илон Маск, Стив Возняк и другие лидеры it-компаний призвали притормозить разработку AI

“Мы призываем все Al-лаборатории немедленно приостановить как минимум на 6 месяцев обучение Al-систем, более мощных, чем GPT-4.”

Перевод петиции без исправлений:

Системы Al с интеллектом, способным конкурировать с человеком, могут представлять серьезную опасность для общества и человечества, как показали обширные исследования и признали ведущие лаборатории Al.

Как говорится в широко одобренных Асиломарских принципах Al, продвинутый Al может представлять собой глубокое изменение в истории жизни на Земле, и его следует планировать и управлять им с соответствующим вниманием и ресурсами. К сожалению, такого уровня планирования и управления не происходит, хотя в последние месяцы лаборатории Al втянулись в неконтролируемую гонку по разработке и внедрению все более мощных цифровых разумов, которые никто - даже их создатели - не может понять, предсказать или надежно контролировать.

Современные Al-системы в настоящее время становятся конкурентоспособными по отношению к человеку при выполнении общих задач,13) и мы должны спросить себя: Должны ли мы позволить машинам наводнить наши информационные каналы пропагандой и неправдой?

Должны ли мы автоматизировать всю работу, включая ту, которая приносит удовлетворение?

Должны ли мы развивать нечеловеческие разумы, которые в конечном итоге превзойдут, перехитрят, устареют и заменят нас? Должны ли мы рисковать потерей контроля над нашей цивилизацией? Такие решения не должны быть делегированы неизбираемым техническим лидерам. Мощные Al-системы должны разрабатываться только тогда, когда мы уверены, что их эффект будет положительным, а риски - управляемыми. Эта уверенность должна быть хорошо обоснована и возрастать по мере увеличения масштабов потенциального воздействия системы. В недавнем заявлении OpenAl относительно искусственного интеллекта общего назначения говорится: “В какой-то момент может оказаться важным получить независимую экспертизу перед началом обучения будущих систем, а для наиболее продвинутых усилий договориться об ограничении темпов роста вычислений, используемых для создания новых моделей”. Мы согласны. Этот момент настал.

Поэтому мы призываем все лаборатории Al немедленно приостановить, по крайней мере, на 6 месяцев обучение систем Al, более мощных, чем GPT-4. Эта пауза должна быть публичной и проверяемой, и включать всех ключевых участников. Если такая пауза не может быть введена быстро, правительства должны вмешаться и ввести мораторий.