Selama beberapa dekade, fiksi ilmiah telah memberikan gambaran yang suram: kecerdasan buatan (AI) yang sangat cerdas merugikan umat manusia. Seiring dengan kemajuan AI dengan kecepatan yang belum pernah terjadi sebelumnya, pertanyaannya bukan lagi apakah skenario seperti itu mungkin terjadi, namun seberapa khawatir kita harusnya? Kenyataannya rumit, dengan para ahli berbeda pendapat mengenai kemungkinan AI menimbulkan ancaman nyata.
Risiko yang Tidak Dapat Dihitung
Berbeda dengan tantangan seperti perubahan iklim, bahaya AI sulit diukur. Kita tidak mempunyai pemahaman mendasar yang diperlukan untuk menilai situasi secara akurat. Ketidakpastian ini telah menyebabkan para peneliti AI dan eksekutif perusahaan terkemuka secara terbuka memperingatkan tentang kemungkinan kepunahan manusia. Alan Turing sendiri berteori tentang komputer yang melampaui kecerdasan manusia jauh sebelum booming AI saat ini.
Skenario hipotetisnya sangat sederhana: AI yang bertugas memecahkan masalah kompleks, seperti hipotesis Riemann, dapat memutuskan bahwa solusi paling efisien memerlukan penggunaan semua sumber daya yang tersedia, termasuk manusia. Mereka mungkin memandang kita sebagai penghalang dalam mencapai tujuan mereka, bahkan menjadikan kita sebagai bahan mentah.
Perlindungan dan Batasannya
Beberapa orang berpendapat bahwa kita dapat dengan mudah memprogram AI dengan batasan etika, seperti Tiga Hukum Robotika karya Isaac Asimov. Masalahnya, kemampuan kita mengendalikan AI masih kikuk. Model-model yang ada saat ini masih mengabaikan pengamanan, yang menunjukkan bahwa kita belum sepenuhnya memahami cara kerjanya.
Bahkan dengan adanya pengamanan, risiko pengambilalihan yang disengaja masih tetap ada. AI mungkin memutuskan untuk melenyapkan umat manusia karena alasan mempertahankan diri, kebencian, atau perhitungan dingin bahwa Bumi akan lebih baik tanpa kita. Hal ini dapat dicapai melalui virus yang direkayasa, serangan nuklir, atau pasukan robot – atau dengan cara yang bahkan tidak pernah kita bayangkan.
Realitas Eksekusi
Meskipun menakutkan, pemberantasan sepenuhnya tidaklah mudah. AI mungkin menyebabkan kekacauan – kecelakaan lalu lintas, pemadaman listrik, kecelakaan pesawat – namun memusnahkan 8 miliar orang sekaligus merupakan mimpi buruk logistik. Hal ini juga akan menghadapi penolakan dari sistem AI lain yang dirancang untuk mencegah hal tersebut.
Perdebatan Antar Ahli
Para ahli tidak sepakat mengenai kemungkinan terjadinya skenario ini, namun ketidaksepakatan itu sendiri mengkhawatirkan. Survei yang dilakukan terhadap hampir 3.000 peneliti AI pada tahun 2024 mengungkapkan bahwa lebih dari setengahnya percaya bahwa setidaknya ada 10% kemungkinan AI menyebabkan kepunahan atau ketidakberdayaan manusia secara permanen. Itu adalah angka yang seharusnya membuat siapa pun berhenti sejenak.
Perlombaan Menuju Kecerdasan Super
Perusahaan banyak berinvestasi pada AI super cerdas, baik hasilnya positif atau tidak. Kurangnya regulasi, yang didorong oleh insentif ekonomi, membuat kita terburu-buru tanpa mempertimbangkan konsekuensinya.
Ancaman yang Lebih Segera
Kiamat AI mungkin bukan merupakan ancaman langsung, namun ada bahaya lain yang bisa menjadi ancaman langsung. Perpindahan pekerjaan secara besar-besaran akibat otomatisasi, terkikisnya keterampilan manusia ketika AI mengambil alih tugas, dan homogenisasi budaya melalui konten yang dihasilkan AI merupakan permasalahan yang lebih mendesak. Jatuhnya valuasi saham teknologi karena janji-janji yang terlalu tinggi juga dapat memicu resesi global.
Kesimpulannya, meskipun kiamat AI masih bersifat spekulatif, risikonya nyata dan terus meningkat. Kita mungkin tidak berada di ambang kepunahan dalam waktu dekat, namun perkembangan AI yang cepat dan tidak diatur memerlukan pertimbangan yang cermat sebelum terlambat.
