Beritalogy – Pandangan Zuckerberg soal AI kembali menjadi perhatian ketika perdebatan mengenai kecepatan perkembangan kecerdasan buatan semakin luas. CEO Meta tersebut menilai setiap perusahaan memiliki tanggung jawab untuk memastikan teknologi yang dikembangkan tetap aman. Namun, menurutnya, langkah tersebut tidak harus diwujudkan melalui perlambatan yang dilakukan secara serentak oleh seluruh industri. Zuckerberg berpendapat bahwa persaingan, kebutuhan menjaga kepercayaan pengguna, serta potensi tanggung jawab hukum sudah menjadi tekanan nyata bagi pengembang. Dengan demikian, perusahaan memiliki alasan kuat untuk memperbaiki sistem keamanan sebelum sebuah produk dilepas kepada publik. Sikap ini memperlihatkan satu sisi penting dalam perdebatan AI saat ini. Persoalannya bukan sekadar memilih antara bergerak cepat atau berhenti. Sebaliknya, tantangan yang lebih besar adalah menentukan bagaimana inovasi dapat berjalan tanpa mengabaikan risiko yang muncul ketika kemampuan AI terus berkembang.
Baca Juga: Xi Jinping Dorong China Berperan dalam Tata Kelola AI Global
Perusahaan AI Dinilai Memiliki Tanggung Jawab Sendiri
Menurut Zuckerberg, setiap laboratorium AI dapat menentukan kecepatan pengembangannya berdasarkan kondisi sistem yang sedang dibangun. Artinya, perusahaan tidak harus menunggu kesepakatan bersama sebelum mengambil tindakan keselamatan. Pendekatan tersebut menempatkan tanggung jawab langsung pada pengembang. Jika sebuah model belum memenuhi standar keamanan internal, perusahaan dapat menunda peluncuran atau melakukan pengujian tambahan. Di sisi lain, perusahaan yang mampu menjaga kualitas dan keamanan dapat melanjutkan pengembangan tanpa harus mengikuti perlambatan serentak. Dari perspektif industri, gagasan ini memberikan fleksibilitas yang cukup besar. Namun, efektivitasnya sangat bergantung pada kualitas pengawasan dan standar yang digunakan setiap perusahaan. Karena itu, perdebatan mengenai AI tidak berhenti pada persoalan kecepatan. Transparansi, evaluasi risiko, dan pertanggungjawaban juga menjadi bagian penting ketika teknologi semakin terhubung dengan aktivitas masyarakat.
Persaingan dan Risiko Hukum Menjadi Faktor Pengendali
Selain tanggung jawab internal, Zuckerberg melihat persaingan pasar sebagai salah satu mekanisme yang mendorong keamanan AI. Pengguna tentu cenderung menghindari layanan yang tidak dapat dipercaya atau gagal menjalankan perintah dengan tepat. Oleh sebab itu, kemampuan menghasilkan AI yang selaras dengan kebutuhan pengguna dapat menjadi keunggulan bisnis. Ada pula faktor tanggung jawab hukum. Ketika sebuah sistem menimbulkan kerugian, perusahaan berpotensi menghadapi konsekuensi yang serius. Kombinasi antara reputasi, persaingan, kepercayaan konsumen, dan risiko hukum inilah yang menurut Zuckerberg menciptakan insentif alami bagi perusahaan untuk berhati-hati. Meski demikian, pendekatan berbasis insentif perusahaan masih menjadi bahan perdebatan. Sejumlah tokoh industri menilai koordinasi yang lebih luas tetap diperlukan karena dampak AI dapat melampaui kepentingan satu perusahaan. Perbedaan pandangan tersebut menunjukkan bahwa tata kelola AI masih terus mencari bentuk yang dianggap efektif.
Dario Amodei Mengusulkan Pendekatan yang Lebih Hati-Hati
Perdebatan semakin terlihat setelah CEO Anthropic Dario Amodei mendorong pendekatan yang lebih berhati-hati terhadap perkembangan AI tingkat lanjut. Perhatian terutama diarahkan pada peningkatan kemampuan model yang berlangsung sangat cepat dan potensi sistem melakukan recursive self-improvement. Secara sederhana, konsep tersebut mengacu pada kemungkinan sistem AI berperan dalam meningkatkan kemampuan dirinya atau membantu menciptakan sistem penerus yang semakin canggih. Sejumlah pemimpin teknologi kemudian menyatakan dukungan terhadap peningkatan koordinasi keselamatan. Sam Altman dan Elon Musk termasuk tokoh yang mendukung sebagian gagasan mengenai perlunya kehati-hatian yang lebih terkoordinasi. Dengan demikian, perbedaan antara kedua pendekatan bukan berarti salah satu pihak mengabaikan keamanan. Titik perdebatan justru berada pada mekanismenya. Satu sisi menekankan koordinasi bersama ketika kemampuan AI meningkat, sedangkan Zuckerberg menilai setiap laboratorium sudah dapat menyesuaikan kecepatannya berdasarkan tingkat risiko yang dihadapi.
Alignment Menjadi Bagian Penting dari Persaingan AI
Menariknya, Pandangan Zuckerberg soal AI tidak hanya membahas kecepatan inovasi. Ia juga menempatkan alignment sebagai salah satu kemampuan penting dalam perkembangan model dan agen AI. Alignment pada dasarnya berkaitan dengan upaya memastikan sistem bertindak sesuai tujuan, instruksi, dan kepentingan pengguna. Dalam penggunaan sehari-hari, aspek tersebut sangat menentukan tingkat kepercayaan. Agen AI yang sering mengabaikan perintah atau menghasilkan tindakan yang tidak diharapkan tentu sulit memperoleh penerimaan luas. Karena itu, Zuckerberg memperkirakan perusahaan yang kurang memberikan perhatian pada alignment dapat tertinggal dalam persaingan. Pemikiran ini memperlihatkan perubahan menarik dalam industri teknologi. Persaingan tidak lagi hanya berpusat pada ukuran model, kecepatan pemrosesan, atau jumlah fitur. Keamanan dan keandalan mulai menjadi bagian dari kualitas produk. Bagi pengguna, perubahan tersebut penting karena kecanggihan teknologi pada akhirnya harus diikuti kemampuan sistem untuk bekerja secara konsisten dan dapat dipertanggungjawabkan.
Meta Menjadikan Muse sebagai Contoh Langkah Pengamanan
Zuckerberg turut menunjuk pengalaman Meta dengan agen AI Muse sebagai contoh pendekatan perusahaan terhadap keamanan. Meta menunda peluncuran sistem tersebut selama beberapa bulan untuk melakukan penguatan pada aspek keselamatan dan keamanan. Menurut Zuckerberg, keputusan seperti itu dapat dilakukan perusahaan secara mandiri tanpa menunggu pesaing mengambil tindakan serupa. Contoh Muse menjadi penting karena memperlihatkan bagaimana prinsip keselamatan diterapkan pada keputusan produk. Penundaan memang dapat memengaruhi jadwal komersial, tetapi peluncuran terlalu cepat juga membawa risiko tersendiri. Produk yang belum matang dapat menimbulkan masalah keamanan sekaligus merusak kepercayaan pengguna. Dalam industri yang bergerak cepat, keputusan menunda produk justru dapat menjadi bagian dari manajemen risiko. Meski demikian, satu contoh perusahaan belum dapat menjawab seluruh persoalan tata kelola AI. Standar keamanan tetap perlu berkembang seiring bertambahnya kemampuan sistem dan luasnya penggunaan teknologi tersebut.
Evaluator Independen Mendapat Tempat dalam Pengujian AI
Di tengah penolakannya terhadap perlambatan terkoordinasi, Zuckerberg tetap mendukung keterlibatan evaluator independen. Menurutnya, penggunaan pihak eksternal untuk menguji sistem merupakan praktik yang berguna dalam pengembangan AI. Meta Superintelligence Labs disebut telah menggunakan evaluator independen pada sejumlah area. Pendekatan semacam ini dapat memberikan perspektif tambahan yang mungkin tidak muncul dalam pengujian internal. Tim pengembang biasanya memahami sistem mereka secara mendalam. Namun, kedekatan tersebut juga dapat membuat beberapa kelemahan lebih sulit terlihat. Sebaliknya, evaluator eksternal dapat mencoba skenario berbeda dan menguji asumsi yang digunakan perusahaan. Oleh karena itu, semakin beragam ekosistem evaluator, semakin luas pula jenis risiko yang berpotensi ditemukan sebelum sistem digunakan secara massal. Titik ini menunjukkan adanya ruang temu dalam perdebatan industri. Meskipun berbeda mengenai perlunya perlambatan bersama, sejumlah pemimpin AI tetap melihat pengujian independen sebagai bagian penting dari peningkatan keselamatan teknologi.
Recursive Self-Improvement Menjadi Salah Satu Titik Perdebatan
Salah satu isu yang paling banyak mendapat perhatian adalah recursive self-improvement. Kekhawatiran muncul ketika AI yang semakin canggih mampu membantu meningkatkan sistem berikutnya dengan keterlibatan manusia yang semakin kecil. Dalam skenario seperti itu, laju peningkatan kemampuan berpotensi menjadi lebih sulit diperkirakan. Namun, Zuckerberg mengatakan sebagian besar sumber daya komputasi Meta diarahkan untuk membangun produk yang dapat melayani kebutuhan pengguna saat ini. Fokus tersebut berbeda dari perlombaan yang semata-mata mengejar sistem yang mampu meningkatkan dirinya secara terus-menerus. Pilihan penggunaan sumber daya komputasi menjadi relevan karena pengembangan AI membutuhkan infrastruktur dalam jumlah besar. Dengan menentukan tujuan komputasi, perusahaan secara tidak langsung menentukan arah riset yang menjadi prioritas. Oleh sebab itu, diskusi mengenai keselamatan AI tidak hanya berkaitan dengan regulasi. Keputusan teknis dan investasi perusahaan juga dapat memengaruhi seberapa cepat kemampuan tertentu dikembangkan.
Keamanan dan Kecepatan Inovasi Tidak Selalu Harus Bertentangan
Perdebatan mengenai AI sering digambarkan sebagai pilihan antara inovasi cepat dan keamanan. Padahal, situasinya jauh lebih kompleks. Pandangan Zuckerberg menunjukkan pendekatan yang menempatkan keduanya dalam proses yang sama. Perusahaan tetap dapat mengembangkan teknologi, tetapi harus siap memperlambat produk tertentu ketika pengujian menemukan risiko. Pandangan serupa mengenai kemungkinan menjaga kecepatan sekaligus keamanan juga disampaikan CEO Nvidia Jensen Huang. Sementara itu, kelompok yang mendorong koordinasi lebih luas menilai risiko teknologi tingkat lanjut dapat memiliki dampak yang terlalu besar jika hanya diserahkan kepada kebijakan internal setiap perusahaan. Kedua pendekatan tersebut menggambarkan persoalan mendasar dalam industri AI: bagaimana membangun sistem pengawasan yang cukup kuat tanpa menghentikan manfaat inovasi. Pada akhirnya, kualitas pengujian, keterbukaan terhadap evaluasi, dan kemampuan merespons masalah akan menjadi faktor penting dalam menilai apakah mekanisme keselamatan benar-benar bekerja.
Masa Depan AI Akan Ditentukan oleh Kepercayaan
Perkembangan terbaru menunjukkan bahwa pembicaraan mengenai AI mulai bergeser dari sekadar siapa yang memiliki model paling canggih. Kepercayaan, alignment, keamanan, serta kemampuan mempertanggungjawabkan keputusan sistem semakin menjadi perhatian. Pandangan Zuckerberg soal AI menempatkan perusahaan sebagai aktor utama yang harus menyesuaikan kecepatan pengembangan dengan tingkat kesiapan teknologinya. Sementara itu, pihak yang mendukung koordinasi lebih luas mengingatkan bahwa risiko dari AI tingkat lanjut dapat melampaui batas satu perusahaan atau negara. Perbedaan tersebut kemungkinan akan terus mewarnai perkembangan industri. Namun, ada satu titik yang relatif jelas: kemampuan teknis saja tidak cukup untuk membangun masa depan AI yang dapat diterima masyarakat. Sistem juga harus dapat diuji, diawasi, dan dipercaya. Karena itu, persaingan generasi berikutnya mungkin bukan hanya tentang model yang lebih pintar. Perusahaan juga akan menghadapi tuntutan untuk menunjukkan bahwa teknologi mereka tetap aman ketika kemampuan dan tingkat otonominya terus meningkat.
