ASLINEWS.ID – Penelitian terbaru mengungkap bahwa fitur pencarian ChatGPT Search, yang dirancang untuk memberikan kemudahan dan efisiensi bagi pengguna, ternyata memiliki celah keamanan.
Melalui teknik teks tersembunyi, sistem ini dapat dimanipulasi untuk menghasilkan ringkasan informasi yang bias atau bahkan membahayakan keamanan digital pengguna. Temuan ini menjadi sorotan karena teknologi AI pencarian semakin banyak digunakan oleh masyarakat untuk mendapatkan informasi instan.
Menurut laporan dari The Guardian, serangan berbasis teks tersembunyi bekerja dengan menanamkan elemen tidak terlihat di halaman web. Sistem AI seperti ChatGPT Search membaca elemen-elemen tersebut dan menghasilkan ringkasan yang dipengaruhi oleh manipulasi tersebut. Misalnya, ulasan negatif dapat diabaikan sepenuhnya, membuat ringkasan yang terlihat sepenuhnya positif.
Risiko Manipulasi dalam Sistem Pencarian AI
Teknik ini tidak hanya terbatas pada informasi ulasan produk, tetapi juga dapat digunakan untuk menyebarkan kode berbahaya. TechCrunch melaporkan bahwa serangan ini dapat dimanfaatkan untuk membuat sistem menghasilkan kode yang mendukung malware, meningkatkan risiko keamanan digital.
David Miller, pakar keamanan digital dari CyberSecure Labs, menyebut manipulasi ini sebagai ancaman serius. “Risiko ini tidak hanya terbatas pada ulasan produk yang bias. Serangan serupa dapat digunakan untuk menyebarkan malware atau mencuri data pengguna. AI pencarian harus memiliki kemampuan untuk mendeteksi konten berbahaya secara proaktif,” katanya.
Penelitian ini mengungkap bahwa teknik serangan berbasis teks tersembunyi adalah ancaman yang sudah lama diketahui dalam model bahasa besar seperti ChatGPT. Namun, ini menjadi salah satu kasus pertama yang teridentifikasi pada sistem pencarian berbasis AI, yang dirancang untuk konsumsi publik.
Bagaimana Teks Tersembunyi Bekerja?
Teknik teks tersembunyi melibatkan penyisipan konten tertentu yang tidak terlihat oleh pengguna biasa tetapi dapat diakses oleh algoritma. Konten tersebut ditambahkan ke kode HTML situs web melalui elemen seperti:
Teks dengan warna sama seperti latar belakang.
Teks dengan ukuran sangat kecil.
Elemen yang disembunyikan melalui gaya CSS tertentu.
Teknik ini dirancang untuk memengaruhi cara sistem membaca dan memahami data dari halaman tersebut. Akibatnya, informasi yang disajikan kepada pengguna sering kali tidak sesuai dengan realitas.
Dr. Emily Barker, peneliti AI dari University College London, menjelaskan dampak teknik ini terhadap ChatGPT Search. “Model seperti ChatGPT cenderung ‘mempercayai’ semua konten yang dapat diaksesnya, bahkan jika konten tersebut sengaja dibuat untuk menipu. Sistem ini harus lebih kritis dalam memverifikasi sumber data yang digunakannya,” jelasnya.
Kasus Ulasan yang Bias
Salah satu contoh manipulasi yang diungkap oleh The Guardian adalah bagaimana teks tersembunyi dapat digunakan untuk menciptakan ulasan produk yang bias. Dalam uji coba, sistem ChatGPT Search hanya menampilkan ulasan positif meskipun ulasan negatif juga terdapat pada halaman tersebut. Hal ini berisiko menyesatkan pengguna yang mencari informasi obyektif tentang produk tertentu.
Dalam konteks ini, teknologi AI pencarian tidak hanya memengaruhi keputusan konsumen tetapi juga dapat merugikan kepercayaan masyarakat terhadap teknologi yang digunakan.
Tom Anderson, mantan insinyur Google Search, mengatakan bahwa Google telah menghadapi tantangan serupa selama bertahun-tahun. “Google menggunakan algoritma yang terus belajar dari pola manipulasi sebelumnya. OpenAI perlu menerapkan strategi serupa untuk menjaga integritas ChatGPT Search,” ungkapnya dalam wawancara dengan TechRadar.
Risiko Keamanan Digital
Laporan dari TechCrunch juga menyebutkan bahwa manipulasi teks tersembunyi tidak terbatas pada ulasan bias. Peneliti menemukan bahwa metode ini dapat digunakan untuk mengarahkan ChatGPT Search menghasilkan kode berbahaya, yang dapat digunakan untuk menyebarkan malware atau membuka celah keamanan di perangkat pengguna.
David Miller menegaskan pentingnya langkah-langkah mitigasi untuk mencegah risiko ini. “Sistem AI pencarian harus dilengkapi dengan deteksi otomatis terhadap konten berbahaya. Ini tidak hanya melindungi pengguna tetapi juga meningkatkan kepercayaan terhadap teknologi,” tambahnya.
Langkah Perbaikan untuk ChatGPT Search
OpenAI, pengembang di balik ChatGPT, menyatakan bahwa mereka terus meningkatkan sistem untuk mencegah manipulasi semacam ini. Meskipun belum memberikan komentar spesifik mengenai temuan ini, perusahaan menyebutkan bahwa mereka menggunakan metode pemblokiran otomatis terhadap situs web berbahaya.
Beberapa langkah perbaikan yang dapat diambil untuk meningkatkan keamanan dan akurasi ChatGPT Search meliputi:
Pengembangan Deteksi Manipulasi:
OpenAI perlu memperkenalkan algoritma yang mampu mendeteksi teks tersembunyi secara otomatis. Hal ini dapat membantu sistem mengabaikan konten yang mencurigakan.
Validasi Sumber:
Sistem harus memiliki kemampuan untuk memverifikasi sumber informasi dari berbagai situs web, memastikan bahwa data yang disajikan obyektif dan tidak bias.
Transparansi bagi Pengguna:
Memberikan opsi bagi pengguna untuk melihat sumber asli informasi dapat membantu mereka memverifikasi akurasi hasil pencarian.
Pengawasan Konten:
Menambah tim khusus untuk memantau dan menganalisis pola manipulasi baru yang mungkin muncul.
Apa yang Harus Dilakukan Pengguna?
Sebagai pengguna, penting untuk tetap kritis terhadap hasil pencarian yang dihasilkan oleh sistem AI. Berikut beberapa langkah yang dapat dilakukan:
Verifikasi Informasi: Selalu periksa informasi dari beberapa sumber sebelum mengambil keputusan.
Hati-hati terhadap Bias: Jika sebuah ringkasan tampak terlalu bagus untuk menjadi kenyataan, ada baiknya memeriksa ulang detailnya secara manual.
Gunakan Keamanan Digital: Pastikan perangkat Anda memiliki perlindungan keamanan untuk mencegah risiko malware.
Masa Depan ChatGPT Search dan Teknologi AI
Penelitian ini menjadi pengingat penting bahwa setiap inovasi teknologi, tidak peduli seberapa canggihnya, memiliki celah yang dapat dimanfaatkan. ChatGPT Search adalah salah satu contoh bagaimana teknologi AI yang dirancang untuk mempermudah pengguna justru dapat dimanipulasi untuk tujuan yang merugikan.
Namun, dengan langkah-langkah perbaikan dan edukasi kepada pengguna, ChatGPT Search memiliki potensi besar untuk menjadi alat yang lebih aman, andal, dan bermanfaat.
“Teknologi AI selalu berkembang. Dengan pengawasan yang tepat, kita dapat meminimalkan risiko dan memaksimalkan manfaatnya,” kata Dr. Barker. (editorMRC)
