Стремительное развитие искусственного интеллекта (ИИ) происходит головокружительными темпами, однако потенциальные катастрофические последствия остаются в значительной степени нерешёнными. В то время как триллионы долларов вкладываются в развитие ИИ, возникает критический вопрос: сколько мы должны потратить, чтобы предотвратить «апокалипсис ИИ»? Новые исследования показывают, что ответ шокирующе высок: не менее 1% мирового ВВП в год — примерно 300 миллиардов долларов — только для смягчения экзистенциальных рисков.
Эта цифра, предложенная экономистом из Стэнфорда Чарльзом Джонсом, значительно превышает текущие расходы на безопасность, которые едва превышают 100 миллионов долларов в год. Анализ Джонса, проводящий параллели с подготовкой к пандемиям, показывает, что даже при самых консервативных оценках потенциальный ущерб от бесконтрольного развития ИИ оправдывает масштабные инвестиции в меры безопасности. Они могут включать финансирование ведущих учёных-компьютерщиков, юристов, разрабатывающих международные механизмы контроля, и значительные вычислительные мощности для мониторинга и сдерживания продвинутых систем.
Неотложность Действий
Дебаты разгораются в критический момент. По мере роста возможностей ИИ прогнозирование будущих результатов становится всё более сложным. Вопрос о том, сколько тратить на смягчение рисков, изначально казался «слишком открытым» для стандартного экономического анализа, но потенциальные ставки требуют немедленного внимания. Симуляции Джонса показывают, что в большинстве сценариев траты в размере не менее 1% ВВП оправданы, а некоторые модели предполагают даже более высокие цифры — до 8% — если учитывать благосостояние будущих поколений.
Текущий подход совершенно недостаточен. Хотя некоторые средства выделяются на приведение ИИ в соответствие с человеческими ценностями и понимание его процессов принятия решений, эти усилия финансируются в недостаточном объёме. Мировое сообщество тратит лишь малую часть того, что экономисты теперь считают необходимым для предотвращения катастрофических последствий.
Помимо Рисков: Экономическое Будущее ИИ
Дискуссия выходит за рамки простого выживания. Распространение ИИ перекраивает мировую экономику, затрагивая вопросы занятости, налогообложения и энергетической политики. На недавней конференции экономисты обсуждали, как правительства будут собирать доходы, когда роботы и ИИ будут доминировать на рынке труда. Вероятное решение: переход от налогов на рабочую силу к налогам на потребление и капитал, включая сборы с компьютеров и роботов.
Китайский Фактор
Тем временем Китай становится мировым лидером в области возобновляемой энергетики, чему способствуют как вопросы энергетической безопасности, так и промышленная политика. Пока США спорят об энергетической политике, Китай экспортирует доступные солнечные панели, электромобили и аккумуляторы в страны с дефицитом энергии, укрепляя своё экономическое и геополитическое влияние. Эта тенденция подчёркивает растущий разрыв: США могут отстать в инновациях в области чистой энергии, если продолжат отдавать приоритет ископаемому топливу над развитием возобновляемых источников.
Суть Вопроса
Стоимость обеспечения безопасности ИИ высока, но потенциальные последствия бездействия ещё больше. Экономисты теперь согласны с тем, что значительные инвестиции в смягчение рисков оправданы, однако текущие расходы остаются катастрофически недостаточными. Будущее мировой экономики и, возможно, всего человечества зависит от того, прислушаются ли правительства и корпорации к этому предупреждению.
