Kamu pasti takjub dengan kecerdasan buatan (artificial intelligence, AI) seperti ChatGPT karena kemampuannya yang cerdas dan tampaknya tahu segalanya. Bahkan perusahaan keamanan seperti Kaspersky juga menggunakan AI ini dalam proses analisis untuk menghemat waktu. Lalu sudah tahu belum kekurangan ChatGPT saat memberikan data kepada penggunanya? Yuk simak berikut pembahasannya.

Vitaly Kamluk, Kepala Tim Penelitian dan Analisis Asia Pasifik Kaspersky, menjelaskan bahwa AI yang menggunakan Large Language Model (LLM) seperti ChatGPT menggunakan pola statistik dan informasi yang diperoleh dari data hasil pelatihan, termasuk dari buku, artikel, dan situs web.

Aku berpendapat bahwa kita harus berhati-hati ketika menggunakan AI seperti ChatGPT karena jawabannya tidak selalu akurat. Kadang-kadang, AI bisa salah memahami data dan memberikan respons yang tidak masuk akal, seperti membuat cerita semau-maunya. Saya menyebut fenomena ini sebagai “halusinasi AI”.

Kekurangan ChatGPT Dalam Memberikan Jawaban

Kamluk mengatakan bahwa AI dan LLM adalah model statistik yang bertujuan untuk memberikan jawaban yang memuaskan kepada pengguna. Meskipun terkadang jawabannya terlihat meyakinkan, sebenarnya tidak selalu benar. Kamluk menyampaikan hal ini saat berbicara dalam acara Asia Pacific Cyber Security Weekend Kaspersky di Bali pada hari Kamis, 24 Agustus 2023.

Aku melihatnya memperlihatkan contohnya dengan mengajukan pertanyaan kepada ChatGPT di atas panggung tentang buku apa yang pernah ia tulis. ChatGPT menjawab bahwa ia menulis dua buku mengenai “cybersurvival” dan “reverse engineering”. Pada pandangan pertama, jawabannya terlihat dapat dipercaya, tetapi ternyata salah.

“Meski topiknya berada dalam bidang keahlian saya, tapi saya belum pernah menghasilkan buku mengenai hal tersebut,” kata Kamluk. Kemudian, dia menanyakan minuman favoritnya, yang dikenal dengan nama “Vitaly Kamluk” alias dirinya sendiri. ChatGPT memberikan dua nama minuman yang diambil dari “karya tulis” Kamluk, yang sekali lagi salah karena dia tidak pernah menulis buku tersebut.

Gimana sih cara ngenalin kalau AI lagi “halusinasi”? Menurut Kamluk, kemungkinan informasi palsu macem gitu sebenarnya udah ada dari dulu banget sebelum AI jadi tren. Cara hadapinnya juga sama, yaitu dengan tetep skeptis, dan selalu ngelakuin validasi dan cek fakta.

“Aku bisa melihat jika ada (jawaban AI) yang terlihat aneh atau mencurigakan. Ikuti saja insting dan akal sehatmu,” ujarku.

Hanya memperhatikan pola, tidak memahami situasinya

Bertemu di tengah acara, Kamluk menjelaskan bahwa AI seperti ChatGPT sebenarnya hanya mengenali pola berdasarkan pelatihan, namun tidak memahami konteks seperti manusia.

Untuk menunjukkan maksudnya, orang tersebut mengambil laptop dan menunjukkannya. Di laptop, dia kembali berinteraksi dengan ChatGPT, kali ini dengan meminta ChatGPT untuk mengubah urutan angka.

Pada mulanya, kamu bisa membalik urutan angka yang sederhana, seperti “987654321”, dengan benar. Namun, ketika urutan angkanya menjadi lebih rumit dan acak, jawaban kamu mulai menjadi tidak akurat dengan menghasilkan urutan yang salah.

Jadi salah satu kekurangan ChatGPT hanya mencocokkan pola pertanyaan dengan pengetahuannya yang telah dipelajari, tetapi tidak memiliki pemahaman konteks seperti kita. Kita sebagai manusia dapat memahami bahwa permintaannya adalah untuk membalik urutan angka, tetapi sebenarnya ChatGPT tidak memahaminya.

Ketidaktahuan mengenai konteks membuat AI seperti ChatGPT mudah untuk dimanipulasi meskipun pembuatnya telah memasang pembatasan-pembatasan.

Aku mencoba memberikan contoh bahwa ketika diminta untuk menulis program jahat yang bertujuan mencuri data, ChatGPT akan menolak karena dibatasi oleh etika pembuatnya. Tapi, ketika pertanyaannya diubah menjadi permintaan untuk melengkapi kode program dengan tujuan yang sama, yaitu mencuri data, ChatGPT dengan mudah memberikan jawaban.

“Juga, jika kamu meminta dia menjelaskan cara untuk hal lain yang dilarang, dia akan menolak. Tetapi jika pertanyaannya diubah, dia akan memberikan jawaban meskipun sebenarnya masih tentang hal itu,” kata Kamluk.

Itulah beberapa hal yang perlu kamu ketahui tentang kekurangan ChatGPT dalam memberikan jawaban. Ikuti terus Teknodaim untuk mendapatkan informasi menarik seputar tips dan trik seputar Artificial Intelligence.