ASIAWORLDVIEW – Hyperpersonalisasi telah menjadi nama permainan dalam chatbot Artificial Intelligence atau AI. Kemampuan sebuah chatbot untuk mempelajari dan mengingat keinginan serta kebutuhan spesifik pengguna, lalu menyesuaikan responsnya, adalah bagian besar dari apa yang membuatnya begitu menarik.
Namun, personalisasi itu bukan hanya produk dari teknologi canggih. Ia juga bergantung pada besarnya jumlah informasi pribadi yang pengguna bagikan secara sukarela kepada chatbot. Sering kali, pengguna mungkin tidak sepenuhnya menyadari sejauh mana dan implikasi dari data yang mereka berikan. Dalam lanskap teknologi yang semakin akrab dengan interaksi manusia-mesin, pertanyaan tentang siapa yang sebenarnya memiliki kendali atas data percakapan menjadi semakin mendesak, mengutip Gizmodo, Senin (26/10/2026).
Meskipun percakapan dengan chatbot AI mungkin tampak seperti pertukaran yang terisolasi, sistem seperti ChatGPT dapat menyimpan informasi dari interaksi masa lalu dan menggunakannya untuk mempersonalisasi respons di masa depan melalui proses memori yang tidak selalu transparan bagi pengguna. Memori AI kemudian menggunakan ini untuk membangun profil rinci tentang pengguna, sebuah mekanisme yang oleh peneliti dalam studi yang diterbitkan awal tahun ini disebut sebagai “the algorithmic self-portrait.”
Baca Juga: OpenAI Gandeng Google Cloud, Perluas Akses Model AI untuk Pelanggan Bisnis
“Memori menciptakan apa yang kami sebut sebagai algorithmic self-portrait—bentuk baru personalisasi yang berasal dari informasi yang diungkapkan sendiri oleh pengguna dalam percakapan pribadi,” tulis para peneliti dalam studi tersebut.
Tim tersebut mencakup ilmuwan dari Max Planck Institute for Software Systems dan Max Planck Institute for Security and Privacy di Jerman, bersama beberapa institusi lainnya. Dalam bahasa teknologi, ini adalah pergeseran dari personalisasi berbasis preferensi eksplisit menuju personalisasi berbasis inferensi—AI tidak hanya mengingat apa yang Anda katakan, tetapi juga menyimpulkan hal-hal yang tidak pernah Anda nyatakan secara langsung.
Untuk lebih memahami bagaimana algorithmic self-portrait ini terbentuk, para peneliti memeriksa riwayat percakapan ChatGPT yang disumbangkan oleh 80 pengguna yang memperoleh salinan data mereka di bawah hukum privasi Eropa. Mereka mengidentifikasi 2.050 entri memori di seluruh percakapan dari 65 peserta tersebut. Mereka menemukan bahwa, sebagian besar waktu, memori dibuat secara sepihak oleh chatbot AI. Dalam 96 persen kasus yang mereka pelajari, ChatGPT membuat atau memperbarui memori tanpa pengguna secara eksplisit memintanya melakukannya. Para peneliti juga menemukan bahwa sebagian besar memori ini diambil langsung dari informasi yang dibagikan pengguna dalam percakapan. Tetapi beberapa didasarkan pada inferensi yang tidak selalu benar.
Misalnya, ketika seorang pengguna meminta ChatGPT merekomendasikan band yang mirip dengan Nirvana, chatbot membuat memori yang menyatakan bahwa pengguna menyukai Nirvana, padahal mereka tidak pernah mengatakannya secara eksplisit. Dalam konteks teknologi, ini adalah contoh klasik dari “false positive” dalam sistem inferensi—AI menarik kesimpulan yang mungkin berguna untuk personalisasi, tetapi bisa salah dan sulit dikoreksi jika pengguna tidak menyadarinya.
Sejak para peneliti melakukan studi mereka, sistem memori ChatGPT telah menjadi lebih kompleks. Pada bulan Juni, OpenAI memperkenalkan sistem yang ditingkatkan yang secara otomatis mensintesis informasi dari percakapan masa lalu untuk mempertahankan profil pengguna yang terus berkembang tentang preferensi, tujuan, dan keadaan pribadi mereka. Alih-alih sekadar mengumpulkan memori individu, sistem terus memperbarui pemahamannya tentang pengguna berdasarkan apa yang dianggapnya informasi relevan.
Pengguna dapat meninjau ringkasan tentang apa yang diingat ChatGPT tentang mereka, tetapi OpenAI mengakui bahwa ringkasan tersebut belum tentu mencakup semua yang diketahui atau digunakan sistem untuk mempersonalisasi respons. Dalam bahasa teknis, ini adalah “black box” yang semakin dalam—pengguna diberi jendela untuk melihat sebagian, tetapi tidak seluruhnya.
Data selalu menjadi pusat bisnis Silicon Valley. Selama bertahun-tahun, raksasa internet seperti Google dan Meta telah menghasilkan kekayaan luar biasa dengan mengumpulkan informasi tentang pengguna dan menggunakannya untuk menjual iklan bertarget. Jadi pengumpulan data pribadi dan implikasi umumnya bukanlah masalah baru, tetapi proliferasi chatbot AI mengubah dinamikanya sedikit. Meskipun orang mungkin terbiasa dengan gagasan bahwa platform media sosial melacak postingan, suka, dan aktivitas mereka, percakapan dengan chatbot AI bisa terasa jauh lebih pribadi, bahkan ketika perusahaan yang mengoperasikannya menyimpan dan menganalisis pertukaran tersebut. Chatbot secara khusus dirancang untuk terasa mirip manusia dan seperti ruang pribadi. Jadi ketika Anda berbicara dengannya, itu bisa terasa seperti berbicara dengan orang asing yang dapat dipercaya yang bisa memberi saran sebagai pihak ketiga yang tidak memihak dan jauh dari kehidupan Anda, tetapi di situlah bahaya privasi berada, menurut Lorrie Cranor, direktur CyLab Security and Privacy Institute di Carnegie Mellon University.
“Manusia akan duduk di samping orang asing di pesawat atau bus atau kereta dan menceritakan hal-hal yang tidak akan pernah mereka ceritakan kepada orang yang akan mereka temui lagi, dan saya pikir beberapa orang berpikir tentang AI dengan cara yang sama,” kata Cranor. “Tetapi perbedaannya adalah orang asing itu kemungkinan tidak merekam percakapan—kadang-kadang itu terjadi, tetapi sangat jarang. AI pasti merekam percakapan.”
Dalam studi sebelumnya, para peneliti menemukan bahwa pengguna semakin beralih ke chatbot seperti ChatGPT untuk mendapatkan saran tentang topik sensitif seperti kesehatan, keuangan, kesehatan mental, dan pekerjaan, sedemikian rupa sehingga “sekarang menjadi lebih seperti mitra sosial daripada sekadar alat,” kata penulis utama Abhisek Dash.
Membangun temuan itu, kali ini mereka juga menyelidiki jenis informasi sensitif apa yang disimpan oleh chatbot dan bagaimana caranya. Mereka menemukan bahwa 52 persen entri memori mengandung informasi tentang keadaan psikologis pengguna, termasuk keinginan, niat, emosi, dan keyakinan mereka.
“Sebelumnya, platform memiliki satu tujuan: menjual iklan kepada Anda dan memediasi interaksi antara Anda dan pengiklan,” kata Dash. “Tetapi sekarang, mereka benar-benar berbicara dengan Anda, jadi mereka mungkin ingin mengetahui lebih banyak tentang Anda agar dapat melakukan percakapan yang efektif.”
Dua model bisnis itu tidak lagi saling eksklusif. OpenAI mulai memperkenalkan iklan ke ChatGPT pada bulan Februari, dan perusahaan mengatakan dapat menggunakan informasi dari percakapan dan memori masa lalu pengguna untuk mempersonalisasi iklan yang mereka lihat, asalkan mereka telah mengaktifkan iklan yang dipersonalisasi.
OpenAI mengatakan bahwa pengiklan tidak memiliki akses ke percakapan atau memori pengguna, dan bahwa iklan tidak memengaruhi respons chatbot. Tetapi pengaturan tersebut menggambarkan bagaimana profil pribadi terperinci yang dibangun chatbot juga dapat menjadi alat periklanan yang berharga. Jadi kemampuan chatbot AI untuk mengumpulkan dan menyimpan informasi tentang Anda untuk membuat profil terperinci adalah apa yang membuat teknologi ini bekerja. Tetapi itu membawa risiko baru yang kadang-kadang melampaui teka-teki privasi internet biasa.
