Le développement rapide de l’intelligence artificielle progresse à un rythme effréné, mais le potentiel de conséquences catastrophiques reste largement ignoré. Alors que des milliers de milliards de dollars sont investis dans l’IA. À mesure que nous progressons, une question cruciale se pose : combien devrions-nous dépenser pour empêcher une « apocalypse de l’IA ? » De nouvelles recherches suggèrent que la réponse est incroyablement élevée : au moins 1 % du PIB mondial par an – soit environ 300 milliards de dollars – juste pour atténuer le risque existentiel.
Ce chiffre, proposé par Charles Jones, économiste à Stanford, éclipse les dépenses actuelles en matière de sécurité, qui dépassent à peine 100 millions de dollars par an. L’analyse de Jones, établissant des parallèles avec la préparation à une pandémie, suggère que même selon des estimations prudentes, les ravages potentiels d’une IA non maîtrisée pourraient être évités. le développement justifie des investissements massifs dans des mesures de sécurité. Ceux-ci pourraient inclure le financement d’informaticiens de haut niveau, d’experts juridiques négociant les contrôles internationaux et d’une puissance de calcul importante pour surveiller et contenir les systèmes avancés.
L’urgence d’agir
Le débat arrive à un moment critique. Comme l’I.A. les capacités augmentent, il devient de plus en plus difficile de prédire les résultats futurs. La question de savoir combien consacrer à l’atténuation des risques semblait au départ « trop ouverte » pour une analyse économique standard, mais les enjeux potentiels nécessitent une attention immédiate. Les simulations de Jones révèlent que dans la plupart des scénarios, dépenser au moins 1 % du PIB est justifié, certains modèles suggérant des chiffres encore plus élevés – jusqu’à 8 % – si l’on prend en compte le bien-être des générations futures.
L’approche actuelle est malheureusement inadéquate. Bien qu’une partie du financement soit consacrée à l’alignement de l’A.I. avec les valeurs humaines et la compréhension de ses processus de prise de décision, ces efforts sont gravement sous-financés. La communauté mondiale dépense une fraction de ce que les économistes estiment désormais nécessaire pour éviter des conséquences catastrophiques.
Au-delà du risque : l’avenir économique de l’IA
La conversation va au-delà de la simple survie. L’essor de l’A.I. est en train de remodeler l’économie mondiale, avec des implications sur la politique du travail, de la fiscalité et de l’énergie. Lors d’une récente conférence, les économistes ont débattu de la manière dont les gouvernements augmenteraient leurs revenus lorsque les robots et l’IA seraient plus efficaces. dominer la main-d’œuvre. La solution probable : passer d’une fiscalité basée sur le travail à une fiscalité sur la consommation et sur le capital, y compris des prélèvements sur les ordinateurs et les robots eux-mêmes.
Le facteur Chine
Pendant ce temps, la Chine est en train de devenir un leader mondial des énergies renouvelables, motivée à la fois par des préoccupations en matière de sécurité énergétique et par sa politique industrielle. Tandis que les États-Unis débattent de la politique climatique, la Chine exporte des panneaux solaires, des véhicules électriques et des batteries à des prix abordables vers des pays pauvres en énergie, acquérant ainsi une influence économique et géopolitique. Cette tendance met en évidence une divergence croissante : les États-Unis pourraient prendre du retard en matière d’innovation en matière d’énergie propre s’ils continuent de donner la priorité aux combustibles fossiles plutôt qu’au développement renouvelable.
L’essentiel
Le coût de l’IA. la sécurité est élevée, mais les conséquences potentielles de l’inaction sont bien plus graves. Les économistes s’accordent désormais sur le fait qu’un investissement important dans l’atténuation des risques est justifié, mais les dépenses actuelles restent malheureusement insuffisantes. L’avenir de l’économie mondiale, et peut-être même de l’humanité, pourrait dépendre de la mesure dans laquelle les gouvernements et les entreprises tiendront compte de cet avertissement.
