Эксперты бьют тревогу после того, как компания Anthropic, специализирующаяся на искусственном интеллекте, наняла известного экономиста, который утверждает, что вероятность прекращения существования человечества в соотношении один к трём — приемлемый компромисс, если ИИ обеспечит значительный экономический рост.
Компания, занимающаяся разработкой искусственного интеллекта, известная тем, что публично предупреждает об опасностях той самой технологии, которую она стремится создать, недавно наняла профессора экономики из Стэнфорда Чада Джонса.
Прошлые работы Джонса теперь находятся под пристальным вниманием общественности после того, как издание Financial Times подчеркнуло статью, в которой он рассчитал, какой уровень экзистенциального риска, связанного с искусственным интеллектом, можно считать «оптимальным» в сравнении с потенциальным повышением уровня жизни.
Вывод был ошеломляющим.
Джонс писал, что в случае стремительного развития искусственного интеллекта вероятность вымирания человечества в течение 40 лет может составить 1 процент в год.
«Вспомним, что в течение 40 лет мы будем сталкиваться с вероятностью экзистенциального риска в 1 процент в год, поэтому вероятность того, что мы переживем этот взрыв ИИ, равна exp (−.01 × 40) ≈ 0,67», — написал Джонс.
«Другими словами, при логарифмической полезности оптимально принять вероятность прекращения существования человечества в 1 из 3 случаев в обмен на вероятность в 2/3 случаев резкого повышения уровня жизни в 55 раз», — добавил он.
Экономист представил риск вымирания как экономический компромисс
Аргумент Джонса фактически рассматривает выживание человечества с точки зрения соотношения затрат и выгод.
Согласно его модели, 33-процентная вероятность вымирания человечества может быть оправдана, если альтернативой станет масштабный экономический подъем, вызванный развитием искусственного интеллекта.
Этот аргумент встревожил критиков, которые считают, что к человечеству нельзя относиться как к спекулятивной инвестиции.
Индустрия искусственного интеллекта просит общественность довериться ее суждениям
Статья Джонса не доказывает, что Anthropic поддерживает идею о том, что вымирание человечества произойдет в одном случае из трех.
Но она дает представление о том, какие мысли циркулируют в высших эшелонах мира искусственного интеллекта. Самые влиятельные игроки отрасли не просто создают инструменты для повышения производительности. Они формируют системы, которые сами называют потенциально способными изменить цивилизацию.
Бренд Anthropic строится на утверждении, что это серьезная компания, занимающаяся разработкой ИИ и уделяющая особое внимание безопасности.
Но если нанять экономиста, чья работа предполагает 33-процентный риск вымирания, в качестве «оптимального решения», это только усилит опасения, что люди, стоящие у руля революции искусственного интеллекта, слишком легкомысленно относятся к будущему всех остальных.
Комментариев (0)