Mediaolahraga, Kecerdasan buatan (Artificial Intelligence/AI) semakin sering muncul di berbagai sektor, seperti kesehatan, pendidikan, dan layanan publik. Namun, para pakar mengingatkan bahwa AI kerap memberikan jawaban ngasal, yang mereka sebut sebagai “halusinasi.” Dalam kondisi ini, AI menyajikan informasi keliru atau tidak relevan, tetapi dengan cara yang terlihat meyakinkan.
Pengguna yang tidak teliti sering tertipu oleh jawaban-jawaban tersebut karena AI menyusunnya dengan struktur bahasa yang tampak benar. Akibatnya, banyak orang mungkin mengambil keputusan yang salah jika terlalu bergantung pada AI tanpa memverifikasi informasi lebih lanjut.
AI Sering Membuat Jawaban Ngawur
Peneliti teknologi Rian Prasetya dari Universitas Indonesia mengungkapkan bahwa AI sering menebak jawaban saat tidak memiliki data yang relevan. “AI merespons dengan pola data yang sudah ada. Kalau datanya kurang atau tidak sesuai, AI tetap akan memberi jawaban, walaupun salah,” jelasnya.
Rian menegaskan bahwa AI hanya bekerja berdasarkan pola dan probabilitas, bukan pemahaman mendalam seperti manusia. “Ketika menghadapi informasi yang ambigu atau tidak lengkap, AI akan mengarang jawaban yang terlihat kredibel, padahal salah,” tambahnya.
Dampak Kesalahan AI
Kesalahan AI bisa memicu dampak besar di berbagai bidang. Dalam dunia medis, AI yang salah mendiagnosis penyakit bisa mengarahkan pasien pada perawatan yang tidak tepat. Di sektor hukum, informasi keliru dari AI bisa mempengaruhi keputusan hukum dan memperburuk situasi.
“Orang yang terlalu bergantung pada AI tanpa memeriksa ulang informasi bisa berakhir pada keputusan fatal,” kata Rian. Ia meminta pengguna untuk lebih kritis dan tidak langsung percaya pada setiap jawaban dari AI.
Langkah Mencegah Halusinasi AI
Para peneliti menyarankan agar perusahaan meningkatkan kualitas data yang digunakan untuk melatih AI. Selain itu, mereka juga meminta agar AI terus diperbarui dan bekerja berdampingan dengan manusia. “Kolaborasi manusia dan AI bisa mengurangi kesalahan dan memastikan informasi yang keluar lebih akurat,” ujar Rian.
Ia menekankan bahwa AI hanya berfungsi sebagai alat bantu, bukan sumber kebenaran tunggal. “Kita perlu tetap mengawasi kerja AI dan memverifikasi informasi agar tidak tertipu oleh jawaban yang terlihat benar,” katanya.
Dengan semakin meluasnya penggunaan Artificial Intelligence, pakar berharap masyarakat bisa lebih sadar akan risiko halusinasi. Meskipun AI membantu menyelesaikan banyak pekerjaan, pengguna tetap perlu memeriksa dan mempertanyakan informasi sebelum mengambil keputusan penting.
