Frame Daily, Jakarta - Peraih Nobel Perdamaian Maria Ressa memperingatkan perkembangan kecerdasan buatan atau artificial intelligence (AI) dapat mengikis kemampuan manusia untuk menentukan pilihan dan bertindak secara mandiri jika teknologi tersebut berkembang tanpa pengawasan dan regulasi yang memadai.
Ressa, jurnalis Filipina yang meraih Nobel Perdamaian 2021, menilai tekanan publik diperlukan untuk mendorong pembuat kebijakan menetapkan aturan yang mampu melindungi masyarakat di tengah perkembangan AI yang semakin cepat.
Peringatan tersebut tidak semata-mata berbicara tentang skenario futuristik ketika mesin mengambil alih dunia. Kekhawatiran Ressa berangkat dari perubahan yang menurutnya sudah berlangsung dalam ekosistem informasi digital.
Ia menyoroti bagaimana teknologi dapat memanfaatkan perhatian, emosi, hingga kebutuhan psikologis manusia.
Dari Media Sosial hingga Chatbot AI
Ressa menggambarkan perkembangan teknologi digital dan AI dalam tiga gelombang.
Gelombang pertama terlihat pada media sosial, ketika algoritma berlomba mendapatkan perhatian pengguna. Model bisnis berbasis keterlibatan pengguna tersebut telah mengubah cara informasi didistribusikan dan dikonsumsi.
Gelombang berikutnya menurut Ressa muncul melalui chatbot AI yang dapat berinteraksi semakin personal dengan manusia.
Teknologi semacam ini tidak lagi hanya menyajikan informasi. Sistem AI dapat terlibat dalam percakapan panjang, merespons kondisi emosional pengguna dan semakin memahami kebutuhan seseorang melalui interaksi yang dilakukan berulang kali.
Di sinilah Ressa melihat persoalan mengenai human agency.
Istilah tersebut dapat dipahami sebagai kemampuan seseorang untuk membuat pilihan dan mengambil tindakan secara mandiri. Kekhawatirannya adalah kemampuan itu dapat terkikis apabila teknologi semakin efektif memengaruhi perhatian, emosi dan keputusan manusia.
Tahap berikutnya adalah perkembangan agentic AI, yakni sistem AI yang tidak hanya menjawab pertanyaan tetapi dapat melakukan serangkaian tindakan atau menjalankan tugas atas nama manusia.
Menurut Ressa, semakin banyak keputusan yang diserahkan kepada sistem semacam itu, semakin penting memastikan manusia tetap memegang kendali atas teknologi.
Regulasi Dinilai Tidak Bisa Menunggu
Ressa kini juga menjadi salah satu ketua panel ilmiah internasional independen mengenai AI yang dibentuk Perserikatan Bangsa-Bangsa.
Ia menilai pemerintah dan masyarakat tidak boleh menyerahkan arah perkembangan teknologi sepenuhnya kepada perusahaan yang mengembangkannya.
Ressa menyambut sejumlah langkah hukum dan regulasi yang mulai dilakukan di berbagai negara, termasuk upaya Uni Eropa dan Australia serta gugatan di Amerika Serikat terhadap perusahaan teknologi. Namun menurutnya, berbagai tindakan tersebut belum sepenuhnya menyelesaikan persoalan mendasar mengenai desain platform digital yang dapat membuat pengguna terus terlibat.
Persoalan itu, menurut Ressa, tidak hanya menyangkut anak-anak atau remaja. Orang dewasa juga dapat terpengaruh oleh cara platform digital dirancang untuk mempertahankan perhatian pengguna.
Peringatan Ressa datang ketika perdebatan global mengenai keselamatan AI kembali menguat.
Dalam beberapa hari terakhir, sejumlah peneliti dan pemimpin industri AI juga menyerukan perlunya pengamanan yang lebih kuat. Namun, belum ada konsensus di kalangan ahli mengenai seberapa besar kemungkinan AI benar-benar lepas dari kendali manusia ataupun kapan skenario semacam itu dapat terjadi.
Bukan Berarti AI Sudah Mengendalikan Manusia
Ada konteks penting yang perlu dibedakan.
Yang ia soroti adalah risiko jangka panjang apabila sistem digital semakin mampu memahami dan memengaruhi kebutuhan psikologis manusia sementara pengawasan publik dan regulasi tertinggal.
Kekhawatiran mengenai dampak AI terhadap informasi juga bukan isu baru bagi Ressa.
Sebagai jurnalis dan salah satu pendiri Rappler, Ressa selama bertahun-tahun menyoroti dampak media sosial, disinformasi, dan algoritma terhadap demokrasi serta ruang informasi publik.
Pada pertemuan para peraih Nobel dan pakar di Vatikan pada Juli 2026, Ressa juga terlibat dalam pembahasan mengenai risiko ketika kecerdasan buatan berkembang melampaui kemampuan manusia untuk mengendalikannya.
Ia mendorong alternatif ruang digital yang lebih berorientasi pada kepentingan publik. Salah satu contoh yang dibawanya adalah Rappler Communities, platform komunikasi yang dikembangkan untuk mendorong dialog dan partisipasi publik.
Pada akhirnya, peringatan Ressa menempatkan persoalan AI bukan hanya pada pertanyaan seberapa pintar mesin akan menjadi, tetapi juga pada pertanyaan yang lebih dekat dengan kehidupan sehari-hari: seberapa besar keputusan manusia akan dipengaruhi atau bahkan diserahkan kepada teknologi.
Bagi Ressa, saat kemampuan AI berkembang semakin cepat, memastikan manusia tetap memiliki kemampuan untuk memilih, mempertanyakan dan mengambil keputusan sendiri menjadi persoalan yang tidak dapat dipisahkan dari masa depan teknologi.
Komentar