Pesatnya perkembangan kecerdasan buatan berjalan dengan kecepatan yang sangat tinggi, namun potensi dampak bencana sebagian besar masih belum teratasi. Sementara triliunan dolar dikucurkan untuk A.I. kemajuan teknologi, sebuah pertanyaan penting muncul: berapa banyak yang harus kita keluarkan untuk mencegah “kiamat AI?” Penelitian baru menunjukkan bahwa jawabannya sangat tinggi: setidaknya 1% dari PDB global setiap tahunnya – sekitar $300 miliar – hanya untuk memitigasi risiko eksistensial.
Angka ini, yang diusulkan oleh ekonom Stanford, Charles Jones, jauh lebih kecil dibandingkan belanja keselamatan saat ini, yang hanya melebihi $100 juta per tahun. Analisis Jones, yang sejalan dengan kesiapsiagaan menghadapi pandemi, menunjukkan bahwa bahkan berdasarkan perkiraan konservatif, potensi kehancuran akibat AI yang tidak terkendali akan berdampak buruk pada kesehatan manusia. pembangunan membenarkan investasi besar-besaran dalam langkah-langkah keselamatan. Hal ini dapat mencakup pendanaan untuk ilmuwan komputer papan atas, pakar hukum yang menegosiasikan pengendalian internasional, dan kekuatan komputasi yang signifikan untuk memantau dan mengendalikan sistem yang canggih.
Urgensi Tindakan
Perdebatan ini terjadi pada saat yang kritis. Sebagai A.I. kemampuan meningkat, memprediksi hasil di masa depan menjadi semakin sulit. Pertanyaan tentang berapa banyak dana yang harus dibelanjakan untuk mitigasi risiko pada awalnya tampak “terlalu terbuka” untuk analisis ekonomi standar, namun potensi risikonya memerlukan perhatian segera. Simulasi Jones mengungkapkan bahwa dalam sebagian besar skenario, pengeluaran setidaknya 1% dari PDB dapat dibenarkan, dan beberapa model bahkan menyarankan angka yang lebih tinggi – hingga 8% – jika kesejahteraan generasi mendatang juga dipertimbangkan.
Pendekatan yang ada saat ini sangat tidak memadai. Meskipun sejumlah pendanaan digunakan untuk menyelaraskan A.I. dengan nilai-nilai kemanusiaan dan pemahaman terhadap proses pengambilan keputusan, upaya-upaya ini sangat kekurangan dana. Komunitas global membelanjakan sebagian kecil dari apa yang menurut para ekonom diperlukan untuk mencegah dampak buruk.
Melampaui Risiko: Masa Depan Ekonomi AI
Percakapan ini lebih dari sekadar bertahan hidup. Kebangkitan A.I. sedang membentuk kembali perekonomian global, yang berdampak pada kebijakan ketenagakerjaan, perpajakan, dan energi. Pada konferensi baru-baru ini, para ekonom memperdebatkan bagaimana pemerintah akan meningkatkan pendapatan ketika robot dan A.I. mendominasi angkatan kerja. Solusi yang mungkin dilakukan adalah dengan beralih dari pajak berbasis tenaga kerja ke pajak konsumsi dan pajak modal, termasuk pungutan atas komputer dan robot itu sendiri.
Faktor Tiongkok
Sementara itu, Tiongkok kini menjadi pemimpin global dalam bidang energi terbarukan, didorong oleh masalah keamanan energi dan kebijakan industri. Saat AS memperdebatkan kebijakan iklim, Tiongkok mengekspor panel surya, kendaraan listrik, dan baterai dengan harga terjangkau ke negara-negara miskin energi, sehingga mendapatkan pengaruh ekonomi dan geopolitik. Tren ini menyoroti perbedaan yang semakin besar: AS mungkin akan tertinggal dalam inovasi energi ramah lingkungan jika AS terus memprioritaskan bahan bakar fosil dibandingkan pembangunan terbarukan.
Intinya
Biaya A.I. keamanannya tinggi, namun potensi konsekuensi jika tidak mengambil tindakan jauh lebih besar. Para ekonom kini sepakat bahwa investasi besar dalam mitigasi risiko adalah hal yang wajar, namun sayangnya belanja saat ini masih belum mencukupi. Masa depan perekonomian global, dan mungkin bahkan umat manusia, mungkin bergantung pada apakah pemerintah dan perusahaan mengindahkan peringatan ini
