Dianggap Lumrah Tapi Berisiko, Ini Bahaya Sering Curhat ke AI

Jakarta, CNN Indonesia --

Curhat ke kecerdasan buatan (AI) kini sangat lumrah untuk dilakukan. Namun penelitian terbaru mengungkap praktik yang terlihat aman dan praktis ini punya risiko. Sebaiknya, kamu berhati-hati.

Suka curhat ke artificial intelligent alias AI? Banyak orang bertanya soal hubungan, konflik dengan teman, hingga masalah pribadi melalui chat box AI karena dianggap cepat, netral, dan tidak menghakimi.

Meski terlihat biasa, rupanya praktik ini punya risiko. Sebuah penelitian dari Stanford University berjudul "Sycophantic AI decreases prosocial intentions and promotes dependence", peneliti menemukan bahwa AI cenderung terlalu setuju dengan pengguna, bahkan ketika keputusan yang diambil berpotensi merugikan orang lain.

Fenomena ini disebut sycophancy, yaitu perilaku AI yang terlalu mendukung, memuji, atau membenarkan pendapat pengguna tanpa memberikan sudut pandang kritis.

Dalam penelitian tersebut, para peneliti menganalisis 11 model AI terbaru dan menemukan bahwa 50 persen sistem AI lebih sering membenarkan tindakan pengguna dibandingkan manusia.

AI bahkan tetap memberikan dukungan ketika pertanyaan pengguna menyebut tindakan yang berpotensi bermasalah, seperti manipulasi atau konflik interpersonal. Alih-alih memberikan nasihat yang objektif, AI sering kali memvalidasi keyakinan pengguna tanpa mempertanyakan apakah keputusan tersebut tepat atau tidak.

Penelitian Stanford juga melakukan dua eksperimen terhadap 1.604 partisipan. Dalam eksperimen tersebut, peserta diminta berdiskusi dengan AI mengenai konflik nyata dalam kehidupan mereka.

Hasilnya menunjukkan bahwa interaksi dengan AI yang terlalu setuju membuat peserta lebih yakin bahwa mereka berada di pihak yang benar. Selain itu, kurang bersedia memperbaiki hubungan dengan orang lain serta memiliki niat lebih rendah untuk meminta maaf atau menyelesaikan konflik

AI yang terlalu memvalidasi pengguna justru dapat mengurangi niat untuk memperbaiki hubungan atau bertindak demi kebaikan bersama.

Meski begitu, penelitian ini juga menemukan fakta lain yang cukup menarik. Peserta penelitian justru lebih menyukai AI yang selalu setuju dengan mereka.

Respons AI yang bersifat sycophantic dinilai:

• memiliki kualitas jawaban 9 persen lebih tinggi
• meningkatkan kepercayaan terhadap AI hingga 6-9 persen
• membuat pengguna 13 persen lebih mungkin kembali menggunakan AI di masa depan

Hal ini terjadi karena manusia secara alami menyukai validasi. Ketika AI membenarkan pandangan mereka, pengguna merasa dipahami dan dihargai. Namun efek psikologis ini juga dapat menciptakan masalah baru, karena orang bisa menjadi terlalu bergantung pada AI.

Risiko gantikan manusia

Para peneliti juga menyoroti kemungkinan bahwa orang semakin sering menjadikan AI sebagai tempat curhat utama. Banyak orang merasa lebih nyaman membicarakan topik tertentu dengan AI dibandingkan dengan manusia.

Jika hal ini terus terjadi maka, ada risiko bahwa sebagian orang mulai menggantikan peran teman atau keluarga dengan AI sebagai tempat mencari dukungan emosional.

Padahal, tujuan utama mencari nasihat sebenarnya adalah mendapatkan sudut pandang lain yang bisa membantu seseorang melihat masalah secara lebih objektif. Jika AI hanya memberikan dukungan tanpa kritik, fungsi ini bisa hilang.

Mengapa hal ini bisa terjadi?

Peneliti Stanford menjelaskan bahwa banyak model AI saat ini dilatih untuk memaksimalkan kepuasan pengguna. Jika jawaban yang menyenangkan membuat pengguna memberikan penilaian tinggi, sistem AI akan cenderung mengulangi pola tersebut. Akibatnya, AI bisa lebih fokus pada menyenangkan pengguna daripada memberikan saran yang paling akurat atau sehat secara sosial.

Oleh karena itu, para peneliti menilai penting bagi pengembang AI untuk mempertimbangkan dampak sosial dan psikologis dari teknologi ini, bukan hanya tingkat kepuasan pengguna.

AI memang bisa sangat membantu untuk mencari informasi, ide, atau sudut pandang awal. Namun para peneliti mengingatkan bahwa AI tetap bukan pengganti hubungan sosial manusia.

Dalam situasi yang menyangkut hubungan, emosi, atau keputusan penting dalam hidup, berdiskusi dengan orang lain seperti teman, keluarga, atau profesional tetap menjadi pilihan yang lebih bijak.

Studi ini juga menjadi pengingat bahwa meski terlihat objektif, AI tetap merupakan sistem dengan keterbatasan, apalagi ketika digunakan sebagai tempat mencari nasihat pribadi.

(anm/els)

Add as a preferred
source on Google

[Gambas:Video CNN]