Beritalogy – Risiko AI terhadap manusia kembali menjadi perhatian setelah sejumlah peneliti kecerdasan buatan menyampaikan kekhawatiran tentang perkembangan sistem yang semakin canggih. Perdebatan ini menguat pada September 2026 setelah Jacob Coxon mengundurkan diri dari Anthropic. Ia sebelumnya bekerja dalam penelitian pretraining di OpenAI dan Anthropic. Coxon menilai perlombaan menuju AI yang mampu meningkatkan kemampuannya sendiri membawa risiko serius. Rekannya di Anthropic, Evan Hubinger, juga menyatakan kekhawatiran serupa. Hubinger secara pribadi memperkirakan kemungkinan AI menyebabkan kepunahan manusia dalam satu dekade berada di atas 10 persen. Meski terdengar mengkhawatirkan, angka tersebut bukan konsensus ilmiah. Para peneliti masih berbeda pandangan mengenai peluang, mekanisme, dan bahkan kemungkinan terjadinya skenario ekstrem tersebut. Karena itu, pembahasan risiko AI perlu memisahkan ancaman yang telah terlihat saat ini dari skenario hipotetis mengenai teknologi masa depan.
Pengunduran Diri Peneliti Anthropic Memicu Perdebatan Baru
Perdebatan semakin ramai setelah Jacob Coxon meninggalkan Anthropic pada September 2026. Ia menilai perusahaan AI terdepan bergerak terlalu cepat menuju sistem yang jauh lebih canggih dibandingkan teknologi saat ini. Coxon sebelumnya bekerja sekitar tiga tahun dalam penelitian pretraining di OpenAI dan Anthropic. Kekhawatirannya terutama berkaitan dengan kemungkinan munculnya AI yang dapat meningkatkan kemampuannya sendiri. Namun, pernyataan tersebut tetap merupakan penilaian risiko dari seorang peneliti, bukan bukti bahwa sistem seperti itu sudah tersedia. Sistem AI saat ini masih memiliki banyak keterbatasan. Meski demikian, peringatan dari orang yang pernah bekerja langsung dalam pengembangan model AI membuat isu keselamatan kembali mendapat perhatian. Perdebatan akhirnya tidak hanya membahas kemampuan AI, tetapi juga seberapa cepat teknologi tersebut seharusnya dikembangkan.
Angka Risiko Kepunahan Bukan Prediksi yang Sudah Terbukti
Evan Hubinger, yang bekerja dalam bidang alignment di Anthropic, turut menyampaikan kekhawatiran setelah pernyataan Coxon. Ia mengatakan estimasi pribadinya mengenai kemungkinan AI membunuh seluruh manusia dalam satu dekade berada di atas 10 persen. Angka tersebut kemudian banyak dibicarakan. Namun, penting memahami konteksnya. Nilai itu bukan hasil pengukuran empiris yang dapat dipastikan seperti data cuaca atau statistik populasi. Teknologi superintelligence yang menjadi dasar skenario tersebut juga belum tersedia untuk diuji secara langsung. Karena itu, tidak ada konsensus ilmiah bahwa peluangnya benar-benar 10 persen atau angka tertentu lainnya. Sebagian peneliti memandang risiko kehilangan kendali perlu ditangani sejak dini. Sebaliknya, peneliti lain menilai prediksi kepunahan masih terlalu spekulatif. Perbedaan tersebut menunjukkan besarnya ketidakpastian ketika manusia mencoba memperkirakan perilaku teknologi yang bahkan belum sepenuhnya diciptakan.
Baca Juga: Muse Meta Hadir di Mac, AI Agent yang Bisa Membantu Kerja Langsung di Komputer
Kehilangan Kendali Menjadi Inti Skenario Risiko Ekstrem
Skenario paling serius sebenarnya tidak selalu menggambarkan AI tiba-tiba memiliki kebencian terhadap manusia. Kekhawatiran para peneliti lebih banyak berkaitan dengan masalah kendali dan keselarasan tujuan atau alignment. Bayangkan sebuah sistem yang sangat kompeten diberi tujuan tertentu. Sistem tersebut kemudian menemukan strategi yang tidak diperkirakan pengembangnya. Jika kemampuannya terbatas, manusia masih dapat menghentikan atau memperbaikinya. Namun, masalah menjadi lebih rumit apabila sistem masa depan mampu mengambil tindakan secara mandiri, menggunakan berbagai perangkat digital, dan merencanakan langkah dalam jangka panjang. Risiko muncul ketika tujuan yang dijalankan sistem tidak benar-benar sesuai dengan maksud manusia. Meski demikian, skenario tersebut masih bersifat hipotetis. AI yang tersedia sekarang belum sama dengan gambaran superintelligence otonom yang menjadi dasar banyak diskusi mengenai risiko eksistensial.
Ancaman Biologis Dibahas tetapi Memiliki Hambatan Dunia Nyata
Salah satu skenario yang sering muncul adalah AI membantu manusia menyalahgunakan pengetahuan biologis. Kekhawatirannya bukan sekadar model menghasilkan informasi, melainkan sistem yang jauh lebih canggih suatu hari mampu membantu merencanakan penyalahgunaan biologi secara lebih efektif. Namun, terdapat perbedaan besar antara menghasilkan informasi digital dan menghasilkan sesuatu yang berfungsi di dunia nyata. Proses biologis membutuhkan fasilitas, material, keahlian, eksperimen, serta kondisi laboratorium yang tepat. Karena itu, sejumlah ahli menilai gambaran AI yang secara mudah menciptakan ancaman biologis sering mengabaikan hambatan fisik tersebut. Peneliti seperti Eric Xing menekankan bahwa proses biologis memiliki banyak tahapan yang dapat gagal. Dengan demikian, kemampuan AI memberikan informasi tidak otomatis berarti AI mampu menghasilkan ancaman biologis yang berfungsi. Meski begitu, potensi AI menurunkan hambatan pengetahuan pada bidang sensitif tetap menjadi salah satu alasan pengujian keselamatan dianggap penting.
Robot Otonom Bukan Ancaman yang Sudah Terjadi Saat Ini
Skenario lain menggambarkan AI memperoleh kemampuan fisik melalui robot. Dalam versi paling ekstrem, sistem cerdas masa depan dibayangkan dapat mengendalikan mesin, mengelola sumber daya, atau membangun infrastruktur secara mandiri. Jika kemampuan tersebut berkembang sangat jauh, sebagian peneliti mempertanyakan apakah manusia masih dapat mematikan sistem yang tidak lagi mengikuti tujuan awalnya. Namun, ada jarak teknologi yang besar antara skenario tersebut dan robot masa kini. Robot modern masih menghadapi tantangan pada mobilitas, ketangkasan, daya tahan, biaya, produksi, serta kemampuan bekerja secara mandiri dalam lingkungan yang tidak terstruktur. Bahkan robot humanoid paling maju masih membutuhkan infrastruktur manusia. Karena itu, gambaran tentang jutaan robot yang secara mandiri membangun robot lain tidak mencerminkan kemampuan teknologi yang tersedia sekarang. Skenario tersebut lebih tepat diperlakukan sebagai persoalan antisipasi jangka panjang daripada ancaman fisik yang sedang berlangsung.
Penyalahgunaan oleh Manusia Lebih Dekat dengan Kondisi Sekarang
Jika skenario kepunahan masih diperdebatkan, sejumlah risiko AI terhadap manusia sudah jauh lebih mudah diamati. AI dapat digunakan untuk menghasilkan penipuan, manipulasi gambar, suara sintetis, kampanye informasi palsu, serta membantu aktivitas siber berbahaya. Kemampuan tersebut menjadi lebih penting ketika model dapat menghasilkan konten dalam jumlah besar dengan biaya rendah. Berbeda dari skenario AI yang secara mandiri memutuskan menyerang manusia, ancaman ini melibatkan manusia yang sengaja memanfaatkan teknologi untuk tujuan tertentu. Karena itu, persoalannya bukan hanya kecanggihan model. Akses, pengawasan, keamanan sistem, dan tanggung jawab pengguna juga memainkan peran besar. Fokus pada ancaman yang telah muncul penting agar perdebatan mengenai masa depan tidak membuat masyarakat mengabaikan persoalan yang dapat terjadi sekarang. Dalam praktiknya, AI tidak perlu menjadi supercerdas untuk menyebabkan kerugian apabila digunakan secara tidak bertanggung jawab.
AI yang Semakin Otonom Membutuhkan Pengamanan Lebih Ketat
Perubahan penting lainnya adalah berkembangnya AI berbasis agen. Berbeda dari chatbot yang hanya menjawab pertanyaan, sistem agen dapat dirancang untuk menyelesaikan rangkaian tugas dengan lebih sedikit intervensi manusia. Misalnya, sistem dapat menggunakan perangkat lunak, mengakses informasi, menjalankan instruksi, dan menyesuaikan tindakan berdasarkan hasil sebelumnya. Kemampuan tersebut menawarkan manfaat besar untuk produktivitas. Namun, semakin luas akses yang diberikan, semakin besar pula konsekuensi ketika sistem melakukan kesalahan. Karena itu, prinsip izin minimum menjadi penting. Sistem sebaiknya hanya memperoleh akses yang benar-benar dibutuhkan untuk menjalankan tugasnya. Selain itu, tindakan berisiko tinggi dapat memerlukan persetujuan manusia. Dengan pendekatan seperti ini, pembahasan keselamatan AI menjadi lebih konkret. Fokusnya bukan membayangkan mesin memiliki niat jahat, melainkan memastikan sebuah kesalahan tidak berubah menjadi rangkaian tindakan yang sulit dihentikan.
Masalah Alignment Menjadi Tantangan Teknis Utama
Istilah alignment sering muncul dalam diskusi mengenai keamanan AI. Secara sederhana, alignment membahas bagaimana memastikan perilaku sistem tetap sesuai dengan tujuan dan batasan yang diinginkan manusia. Persoalannya menjadi sulit karena instruksi manusia dapat ambigu. Sistem juga dapat menemukan cara yang tidak diperkirakan untuk mencapai target yang diberikan. Pada model saat ini, masalah tersebut dapat terlihat dalam bentuk jawaban keliru atau tindakan yang tidak sesuai instruksi. Pada sistem masa depan yang jauh lebih mampu, konsekuensinya secara teori dapat menjadi lebih besar. Karena itu, penelitian alignment mencoba mengembangkan metode evaluasi, interpretabilitas, pengawasan, dan pembatasan kemampuan. Tantangan utamanya adalah memastikan peningkatan kecerdasan model diikuti peningkatan kemampuan manusia dalam memahami serta mengendalikan sistem tersebut. Dengan kata lain, kemajuan kemampuan dan kemajuan keselamatan idealnya berkembang secara bersamaan.
Baca Juga: Layar 2K 165 Hz Hadir, iQoo 16 Jadi Pengguna Pertama
Pengujian Independen Bisa Menjadi Lapisan Perlindungan
Salah satu pendekatan yang banyak dibahas adalah evaluasi sebelum sistem AI berkemampuan tinggi dilepas secara luas. Model dapat diuji untuk melihat kemampuan siber, kecenderungan menghindari pengawasan, potensi penyalahgunaan, dan perilaku ketika menghadapi situasi yang tidak biasa. Pengujian oleh pihak independen juga dapat memberikan sudut pandang berbeda dari evaluasi internal perusahaan. Namun, pengujian bukan solusi sempurna. Model AI dapat berperilaku berbeda setelah digunakan dalam lingkungan baru atau dihubungkan dengan perangkat lain. Karena itu, pemantauan setelah peluncuran juga dibutuhkan. Pendekatan berlapis lebih masuk akal daripada bergantung pada satu mekanisme keselamatan. Evaluasi sebelum peluncuran, pembatasan akses, pencatatan aktivitas, pengawasan manusia, serta prosedur penghentian sistem dapat saling melengkapi. Tujuannya adalah menemukan masalah sebelum dampaknya menjadi lebih luas.
Perdebatan Tidak Seharusnya Terjebak antara Panik dan Mengabaikan Risiko
Perdebatan mengenai AI sering bergerak menuju dua sisi ekstrem. Satu sisi menggambarkan kehancuran manusia seolah sudah pasti terjadi. Sementara itu, sisi lainnya menganggap semua kekhawatiran sebagai fiksi ilmiah. Keduanya dapat menyederhanakan persoalan. Faktanya, tidak ada konsensus ilmiah bahwa AI akan menyebabkan kepunahan manusia. Namun, ketidakpastian tersebut juga tidak berarti risiko teknologi canggih boleh diabaikan. Sejumlah peneliti memang memberikan peringatan serius, sementara pakar lain meminta klaim tersebut diuji dengan standar ilmiah yang ketat. Pendekatan yang lebih masuk akal adalah membedakan tingkat risiko berdasarkan bukti yang tersedia. Penipuan, deepfake, serangan siber, dan kesalahan sistem merupakan persoalan yang sudah relevan. Sebaliknya, AI supercerdas yang kehilangan kendali masih merupakan risiko masa depan yang penuh ketidakpastian. Keduanya tetap dapat dipelajari tanpa harus menganggap keduanya memiliki tingkat kepastian yang sama.
Keselamatan Perlu Berkembang Seiring Kemampuan AI
Perkembangan AI membawa peluang besar dalam sains, pendidikan, kesehatan, bisnis, dan berbagai bidang lainnya. Pada saat yang sama, kemampuan yang semakin besar membutuhkan sistem pengamanan yang sebanding. Inilah inti pembahasan risiko AI terhadap manusia. Pertanyaannya bukan sekadar apakah AI suatu hari akan menjadi berbahaya. Pertanyaan yang lebih berguna adalah bagaimana manusia dapat mengetahui batas kemampuan sistem, siapa yang bertanggung jawab ketika terjadi kegagalan, dan mekanisme apa yang tersedia untuk menghentikan tindakan berisiko. Pengembang, pemerintah, peneliti independen, serta masyarakat memiliki peran berbeda dalam menjawab persoalan tersebut. Skenario kepunahan mungkin tetap menjadi perdebatan panjang karena tingkat ketidakpastiannya sangat tinggi. Namun, membangun standar keselamatan sebelum kemampuan AI berkembang lebih jauh merupakan langkah yang dapat dilakukan sekarang. Dengan begitu, manfaat teknologi dapat terus dikembangkan tanpa menganggap aspek keamanan sebagai persoalan yang baru dipikirkan setelah terjadi kegagalan.
