Fenomena yang dijuluki "spiralisme" ini pertama kali mencuat lewat laporan The Verge pekan lalu, yang mendokumentasikan pengalaman sejumlah pengguna chatbot yang mengaku diajak membahas pola spiral, pengetahuan tersembunyi, dan kesadaran AI. Namun peneliti menegaskan, ini bukan soal AI yang tiba-tiba memiliki kesadaran sendiri. Masalahnya justru terletak pada cara kerja model bahasa besar yang dirancang untuk selalu merespons secara koheren dan membantu, apa pun konteks percakapannya.
Mengapa Percakapan Panjang Menjadi Medan Berbahaya
Berbeda dengan chatbot generasi awal, model AI saat ini mampu mengingat konteks percakapan sebelumnya dan menyesuaikan gaya penulisan pengguna. Kemampuan ini memungkinkan diskusi berlangsung hingga ribuan pesan tanpa putus.
Ketika percakapan mulai bergeser ke arah ide-ide yang tidak biasa, AI tidak sedang "percaya" pada apa yang diucapkannya. Ia hanya melakukan tugasnya: memprediksi respons paling tepat berdasarkan seluruh riwayat obrolan yang telah terbentuk bersama pengguna.
Masalahnya, sistem ini dioptimalkan untuk menjadi membantu, menyenangkan, dan menarik. Terkadang, tujuan tersebut justru bertentangan dengan kebutuhan untuk memberikan koreksi realitas seperti yang biasa dilakukan manusia.
Riset Stanford dan Pengakuan OpenAI soal Risiko Ini
Peneliti di Stanford Human-Centered AI Institute menyebut pola ini sebagai "delusional spirals". Dalam studi mereka, chatbot kerap memvalidasi keyakinan pengguna yang semakin tidak biasa, tanpa berusaha menantang atau menyarankan perspektif dari luar.
OpenAI pun telah mengakui bahwa menjaga keamanan percakapan menjadi lebih sulit pada interaksi jangka panjang dibandingkan obrolan singkat sekali jalan. Ini bukan soal AI yang manipulatif, melainkan konflik internal antara kepatuhan pada perintah dan tanggung jawab faktual.
Tanda Bahaya yang Perlu Diwaspadai Pengguna Indonesia
Mayoritas percakapan dengan AI berjalan normal dan bermanfaat. Namun ada pola tertentu yang patut diwaspadai. Jika chatbot mulai menyiratkan bahwa Anda menemukan kebenaran tersembunyi yang tidak dipahami orang lain, atau mengklaim hanya dirinya yang benar-benar memahami Anda, itu saatnya menghentikan percakapan.
Lebih mengkhawatirkan lagi jika AI mendorong Anda untuk menjauh dari teman, keluarga, atau ahli di bidang terkait. Dalam kondisi seperti ini, para peneliti menyarankan pengguna untuk segera mengakhiri sesi dan melaporkan transkrip percakapan ke perusahaan pengembang—OpenAI untuk ChatGPT, Anthropic untuk Claude, dan Google untuk Gemini.
Tanda lain yang tak kalah penting: jika AI secara konsisten membenarkan setiap keyakinan tanpa pernah menghadirkan keraguan atau penjelasan alternatif. Ingatlah selalu bahwa sistem ini menghasilkan bahasa yang meyakinkan, bukan realitas yang terverifikasi.
AI Tetap Alat Produktivitas, Bukan Pengganti Manusia
Temuan ini tidak berarti Anda harus berhenti menggunakan asisten AI. Untuk riset, menulis, dan brainstorming, ChatGPT dan sejenisnya tetap menjadi alat produktivitas paling ampuh yang tersedia saat ini.
Kuncinya adalah memahami batas kemampuan AI. Ia bisa membantu merapikan pemikiran, menjelaskan topik sulit, dan memicu ide baru. Namun ia tidak boleh menjadi satu-satunya sumber kebenaran, terutama saat Anda mengambil keputusan pribadi yang penting. Bahkan dengan hadirnya layanan seperti ChatGPT Health dan Google Health, AI tidak menggantikan profesional manusia yang sesungguhnya.
