7 hours ago
2
Jakarta, CNN Indonesia --
Perlombaan global mengembangkan AI dinilai berisiko memicu petaka besar yang dapat meruntuhkan kepercayaan dunia terhadap teknologi.
Menurut Michael Wooldridge, profesor kecerdasan buatan di University of Oxford, tekanan komersial membuat perusahaan teknologi berlomba merilis produk AI sebelum kemampuan dan risikonya benar-benar dipahami, membuka peluang terjadinya kegagalan besar layaknya bencana industri di masa lalu.
ADVERTISEMENT
SCROLL TO CONTINUE WITH CONTENT
Dia mencontohkan lonjakan chatbot kecerdasan buatan dengan batasan keamanan yang mudah dilewati sebagai contoh bagaimana insentif komersial diutamakan daripada pengembangan yang hati-hati dan pengujian keamanan.
"Ini adalah skenario teknologi klasik. Anda memiliki teknologi yang sangat menjanjikan, tetapi belum diuji secara ketat seperti yang Anda harapkan, dan tekanan komersial di baliknya tidak tertahankan," ujar Wooldridge melansir The Guardian, Selasa (17/2).
Wooldridge mengatakan bahwa petaka besar seperti bencana Hindenburg di era teknologi AI ini sangat mungkin terjadi, terlebih saat perusahaan-perusahaan bergegas untuk menerapkan alat AI yang lebih canggih.
Bencana Hindenburg terjadi di New Jersey, Amerika Serikat, pada tahun 1937. Saat itu, Hindenburg, sebuah kapal udara berukuran 245 meter yang melintasi Samudra Atlantik, sedang bersiap mendarat di New Jersey pada tahun 1937 tiba-tiba terbakar, menewaskan 36 awak kapal, penumpang, dan staf darat.
Percikan api menyulut 200.000 meter kubik hidrogen yang menjaga kapal udara tetap terbang, menyebabkan kebakaran hebat.
"Bencana Hindenburg menghancurkan minat global terhadap balon udara; sejak saat itu, teknologi tersebut menjadi usang, dan momen serupa merupakan risiko nyata bagi kecerdasan buatan," kata Wooldridge.
Menurut dia, karena AI terintegrasi dalam begitu banyak sistem, insiden besar dapat terjadi di hampir semua sektor.
Wooldridge membayangkan skenario yang melibatkan pembaruan perangkat lunak mematikan untuk mobil otonom, serangan siber yang didukung AI yang menghentikan operasional maskapai penerbangan global, dan keruntuhan perusahaan besar yang mirip dengan kasus Barings Bank, yang dipicu oleh kesalahan yang dibuat oleh AI.
"Ini adalah skenario yang sangat, sangat mungkin terjadi. Ada berbagai cara di mana kecerdasan buatan bisa gagal secara terbuka," lanjutnya.
Meskipun ada kekhawatiran, Wooldridge mengatakan bahwa dia tidak bermaksud untuk mengkritik kecerdasan buatan (AI) modern. Dia memulai dengan membahas ketidakcocokan antara harapan para peneliti dan hasil yang sebenarnya. Banyak ahli mengharapkan AI yang mampu menghitung solusi untuk masalah dan memberikan jawaban yang tepat dan lengkap.
"Kecerdasan buatan modern tidaklah sempurna atau lengkap: ia sangat, sangat kasar," ungkap Wooldridge.
Hal ini terjadi karena model bahasa besar yang mendasari chatbot AI saat ini menghasilkan jawaban dengan memprediksi kata atau bagian kata berikutnya berdasarkan distribusi probabilitas yang dipelajari selama proses pelatihan. Ini mengakibatkan AI memiliki kemampuan yang tidak merata, mereka sangat efektif dalam beberapa tugas namun sangat buruk dalam tugas lainnya.
Wooldridge mengatakan bahwa masalahnya adalah chatbot AI sering gagal dengan cara yang tidak terduga, tidak menyadari ketika mereka salah, dan dirancang untuk memberikan jawaban yang yakin tanpa memedulikan kebenarannya. Ia menambahkan bahwa ketika respons diberikan dengan cara yang mirip manusia dan mengagungkan, jawaban tersebut dapat dengan mudah menyesatkan orang.
Ada risiko bahwa orang akan mulai memperlakukan AI seolah-olah mereka adalah manusia. Survei tahun 2025 oleh Pusat Demokrasi dan Teknologi menemukan bahwa hampir sepertiga siswa melaporkan pernah memiliki, atau mengenal seseorang yang pernah memiliki, hubungan romantis dengan AI.
"Perusahaan ingin menampilkan kecerdasan buatan (AI) dengan cara yang sangat mirip manusia, tetapi menurut saya itu adalah jalan yang sangat berbahaya untuk ditempuh," kata Wooldridge.
"Kita perlu memahami bahwa ini hanyalah spreadsheet yang diperindah, mereka hanyalah alat dan tidak lebih dari itu," lanjutnya.
Wooldridge menemukan hal-hal positif dalam penggambaran kecerdasan buatan (AI) pada musim-musim awal Star Trek. Dalam episode tahun 1968 berjudul "The Day of the Dove," Mr. Spock mengajukan pertanyaan kepada komputer Enterprise. Namun, komputer tersebut menjawab dengan suara yang jelas-jelas tidak manusiawi, mengatakan bahwa ia tidak memiliki data yang diperlukan.
"Itu bukan yang kita dapatkan. Kita mendapatkan AI yang terlalu percaya diri yang berkata: ya, inilah jawabannya," ungkapnya.
"Mungkin kita butuh AI yang berbicara kepada kita dengan suara komputer Star Trek. Kamu tidak akan pernah percaya itu adalah manusia," tutup Wooldridge.
(wpj/dmi)
