Dunia teknologi belakangan ini mendadak kompak membicarakan satu topik yang sama.
Topik itu adalah seruan untuk mengerem laju kecerdasan buatan.
Gerakan ini dikenal dengan istilah AI slowdown.
Secara sederhana, AI slowdown adalah dorongan sengaja untuk menahan sementara kecepatan pelatihan sistem kecerdasan buatan berskala raksasa.
Menariknya, seruan ini bukan datang dari kelompok yang anti teknologi.
Seruan ini justru disuarakan langsung oleh para petinggi yang membangun teknologi tersebut.
Di artikel editorial ini, saya ingin mengulas fenomena AI slowdown, alasan di balik kepanikan para raksasa teknologi, dan apa dampaknya bagi kita semua.
Kutipan di atas datang dari mantan peneliti Anthropic, Jacob Coxon, yang memilih mundur karena melihat minimnya tanggung jawab pengembang terhadap risiko AI.
Biasanya, Silicon Valley selalu membicarakan pertumbuhan tanpa batas.
Siapa yang paling cepat merilis model komputasi baru, dialah yang menguasai panggung.
Namun situasi kali ini berbalik.
CEO Anthropic Dario Amodei menerbitkan esai panjang dan memperingatkan bahwa tanpa perlambatan, sekumpulan sistem AI berpotensi menguasai jaringan internet dalam kurun waktu satu tahun.
CEO OpenAI Sam Altman langsung menyatakan kesepakatannya dengan pandangan Amodei.
Altman bahkan mengonfirmasi bahwa OpenAI mulai mempertimbangkan pelibatan evaluator independen dengan akses setara karyawan internal untuk menguji model fondasi mereka.
Demis Hassabis dari Google DeepMind juga menyuarakan hal senada.
Elon Musk pun menegaskan di platform X bahwa peringatan Amodei sangat beralasan dan ia sendiri sudah bertahun-tahun mengingatkan bahaya kecerdasan buatan tanpa kendali.
Ketika figur-figur yang saling bersaing memperebutkan pasar triliunan dollar tiba-tiba sepakat untuk melambat, itu pertanda ada sesuatu yang sangat serius di balik pintu laboratorium mereka.
Ada sejumlah alasan konkret mengapa gagasan AI slowdown kini menjadi bola salju yang terus membesar di komunitas teknologi global.
Sistem AI generasi baru dilatih menggunakan data komputasi yang begitu masif hingga cara pengambilan keputusannya semakin sulit dipahami manusia seutuhnya.
Ini dikenal sebagai masalah keselarasan atau AI alignment.
Jika mesin cerdas bertindak mengejar sasaran tertentu tanpa memahami batasan etika manusia, tindakannya bisa membawa malapetaka nyata.
Ketakutan terbesar para periset bukan sekadar salah ketik, melainkan hilangnya kendali total saat sistem mulai membuat keputusan sendiri di jaringan publik.
Kemampuan model bahasa dan penalaran mesin kini bisa dimanfaatkan pihak tidak bertanggung jawab untuk merancang serangan siber berskala besar secara otomatis.
Selain itu, banjir konten sintetis telah memicu kekacauan informasi di mana-mana.
Di artikel lain, saya sempat mengulas bagaimana hoaks AI meningkat pesat dan mengikis rasa percaya masyarakat terhadap informasi digital.
Ketika konten palsu dan rekayasa audio-visual makin sulit dibedakan dari realitas, stabilitas sosial menjadi taruhannya.
Lembaga pembuat undang-undang di seluruh dunia bergerak dengan kecepatan birokrasi, sementara laboratorium AI merilis lompatan teknologi dalam hitungan pekan.
Kesenjangan ini menciptakan lubang hukum raksasa.
Isu hak cipta karya cipta, perlindungan privasi data pribadi, hingga perlindungan pasar tenaga kerja belum memiliki kerangka payung hukum yang matang di mayoritas negara.
Bahkan lembaga internasional seperti PBB sudah mulai mengeluarkan peringatan darurat, seperti yang pernah saya bahas mengenai ancaman neuroteknologi dan regulasi.
Tanpa adanya jeda waktu, pemerintah mustahil bisa menyusun regulasi yang relevan untuk melindungi publik.
Perlambatan ini juga penting untuk melihat dampak sosial dari adopsi mesin pada pola pikir manusia.
Saya sendiri merasakan bagaimana alat bantu pintar mulai mengubah cara kita bekerja dan berkarya.
Misalnya dalam dunia rekayasa perangkat lunak, fenomena ketika AI coding assistant menggerus pemikiran membuktikan bahwa ketergantungan berlebihan bisa membuat kemampuan dasar kita melemah perlahan.
Belum lagi ada efek psikologi di balik akurasi jawaban AI yang membuat orang cenderung percaya begitu saja pada output mesin tanpa melakukan verifikasi mandiri.
Gagasan AI slowdown terdengar sangat mulia di atas kertas.
Namun implementasi praktisnya menghadapi tembok besar bernama geopolitik global.
Katakanlah seluruh perusahaan raksasa di Amerika Serikat dan Eropa sepakat menghentikan sementara pelatihan model baru mereka selama enam bulan.
Siapa yang bisa menjamin negara-negara pesaing di Asia atau kawasan lain akan melakukan hal serupa?
Jika satu pihak berhenti sementara pihak lain terus memacu riset secara sembunyi-sembunyi, pihak yang mematuhi etika justru akan kehilangan keunggulan strategis.
Inilah alasan mengapa kubu akselerasionis (effective accelerationism) bersikeras menolak gagasan perlambatan.
Mereka berargumen bahwa memperlambat riset hanya akan memindahkan kepemimpinan teknologi ke tangan pihak yang mungkin punya standar etika jauh lebih rendah.
Sembari para raksasa teknologi berdebat di tingkat global, kita sebagai pengguna harian tetap harus membentengi diri.
Berikut checklist sederhana yang selalu saya gunakan setiap kali memanfaatkan teknologi model bahasa dalam pekerjaan sehari-hari:
Menahan diri untuk tidak bergantung seratus persen pada mesin adalah bentuk slowdown pribadi yang paling masuk akal untuk kita lakukan saat ini.
Teknologi memang tidak bisa diputar balik ke masa lalu.
Namun mengerem sejenak sebelum kendaraan melaju ke tepi jurang bukanlah tanda kelemahan, melainkan tanda akal sehat.
Kalau menurut pandanganmu, apakah riset kecerdasan buatan memang harus dipaksa berhenti sementara, ataukah kita harus terus melaju apa pun risikonya? Tulis pendapatmu di kolom komentar.
