Швидкий розвиток штучного інтелекту (ШІ) відбувається шаленими темпами, але потенційні катастрофічні наслідки залишаються в основному невирішеними. Оскільки трильйони доларів вливаються в розробку штучного інтелекту, виникає критичне питання: скільки ми повинні витратити, щоб запобігти «апокаліпсису штучного інтелекту»? Нове дослідження показує, що відповідь вражаюча: принаймні 1% світового ВВП на рік — приблизно 300 мільярдів доларів — лише для того, щоб пом’якшити життєві ризики.
Ця цифра, запропонована економістом Стенфордського університету Чарльзом Джонсом, значно перевищує поточні витрати на безпеку, які ледь перевищують 100 мільйонів доларів на рік. Аналіз Джонса, який проводить паралелі з підготовкою до пандемії, показує, що навіть за найскромнішими оцінками потенційна шкода від неконтрольованого розвитку ШІ виправдовує значні інвестиції в заходи безпеки. Це може включати фінансування провідних комп’ютерних науковців, юристів, які розробляють міжнародні механізми контролю, а також значні обчислювальні потужності для моніторингу та стримування передових систем.
Терміновість дій
Дебати розпалюються в критичний момент. Зі зростанням можливостей штучного інтелекту прогнозувати майбутні результати ставатиме все важче. Питання про те, скільки витратити на пом’якшення ризиків, спочатку здавалося «надто відкритим» для стандартного економічного аналізу, але потенційні ставки вимагають негайної уваги. Моделювання Джонса показує, що витрати принаймні 1% ВВП виправдані в більшості сценаріїв, а деякі моделі пропонують навіть вищі цифри – до 8% – якщо брати до уваги добробут майбутніх поколінь.
Існуючий підхід абсолютно недостатній. Хоча певне фінансування виділяється на узгодження ШІ з людськими цінностями та розуміння його процесів прийняття рішень, ці зусилля недофінансовані. Світове співтовариство витрачає лише незначну частину того, що зараз економісти вважають необхідним для запобігання катастрофічним наслідкам.
Поза межами ризиків: економічне майбутнє ШІ
Дискусія виходить за рамки простого виживання. Розвиток ШІ змінює світову економіку, впливаючи на зайнятість, оподаткування та енергетичну політику. На нещодавній конференції економісти обговорювали, як уряди будуть отримувати дохід, коли роботи та ШІ домінуватимуть на ринку праці. Ймовірне рішення: перехід від податків на працю до податків на споживання та капітал, включаючи податки на комп’ютери та роботів.
Китайський фактор
Тим часом Китай стає світовим лідером у сфері відновлюваних джерел енергії, керуючись як проблемами енергетичної безпеки, так і промисловою політикою. Поки Сполучені Штати сперечаються щодо енергетичної політики, Китай експортує доступні сонячні панелі, електромобілі та батареї в країни з дефіцитом енергії, зміцнюючи свій економічний і геополітичний вплив. Ця тенденція підкреслює зростаючий розрив: США можуть відстати в інноваціях у сфері чистої енергетики, якщо продовжуватимуть віддавати перевагу викопному паливу над розвитком відновлюваних джерел.
Суть Питання
Ціни на безпеку ШІ є високими, але потенційні наслідки бездіяльності ще більші. Зараз економісти погоджуються, що значні інвестиції в пом’якшення ризиків виправдані, але поточні витрати залишаються вкрай неадекватними. Майбутнє світової економіки і, можливо, всього людства залежить від того, чи прислухаються уряди та корпорації до цього попередження.
