RADAR SURABAYA — Perkembangan teknologi kecerdasan buatan atau Artificial Intelligence (AI) membawa perubahan besar dalam berbagai sektor, mulai dari pendidikan hingga produktivitas kerja. Namun, berbagai laporan sepanjang 2024–2025 menunjukkan bahwa kemajuan ini juga diikuti meningkatnya kasus penyalahgunaan teknologi digital untuk berbagai modus kejahatan.
Salah satu teknologi AI yang banyak digunakan publik adalah ChatGPT yang dikembangkan oleh OpenAI. Platform ini dirancang untuk membantu manusia dalam berbagai aktivitas, seperti mencari informasi, menyusun tulisan, hingga membantu pekerjaan sehari-hari. Meski demikian, semakin luasnya penggunaan AI juga memunculkan sejumlah persoalan baru yang memicu diskusi global mengenai etika serta regulasi teknologi.
Baca Juga: Perkuat Keamanan Identitas Digital Berbasis Jaringan dengan Telin Mobile Network Verification
Pada 2025, muncul gugatan hukum terhadap OpenAI yang berkaitan dengan interaksi panjang antara chatbot dan seorang pengguna yang sedang mengalami krisis emosional. Kasus tersebut memicu perdebatan mengenai batas tanggung jawab teknologi AI, khususnya ketika sistem digital berinteraksi dengan individu yang berada dalam kondisi psikologis rentan.
Selain itu, sejumlah laporan juga menyoroti potensi ketergantungan remaja terhadap chatbot berbasis AI. Penggunaan teknologi tanpa pendampingan yang memadai dikhawatirkan dapat memengaruhi cara berpikir serta kesehatan mental generasi muda.
Kemajuan AI juga dimanfaatkan dalam berbagai kejahatan siber. Salah satu modus yang mulai banyak ditemukan adalah penggunaan teknologi generatif untuk membuat bukti transfer palsu. Dengan kemampuan memodifikasi detail nominal, nama penerima, hingga tampilan visual secara presisi, dokumen transaksi palsu dapat terlihat sangat meyakinkan dan sulit dibedakan dari bukti transfer asli.
Baca Juga: Pemerintah Batasi Anak Bermedsos, Dorong Ekosistem Digital Aman dan Edukatif
Penyalahgunaan teknologi juga muncul melalui penyebaran aplikasi palsu. Salah satu kasus yang terungkap adalah malware bernama “PipeMagic” yang menyamar sebagai aplikasi ChatGPT untuk mencuri data pengguna. Pelaku memanfaatkan popularitas teknologi AI guna mengelabui korban agar mengunduh aplikasi dari sumber yang tidak resmi.
Kemampuan AI dalam menyusun kalimat yang rapi dan profesional juga dimanfaatkan dalam praktik phishing. Email penipuan kini dapat disusun dengan bahasa yang lebih meyakinkan dibandingkan sebelumnya, sehingga meningkatkan risiko serangan seperti Business Email Compromise yang dapat menargetkan individu maupun perusahaan.
Selain penipuan digital, risiko lain yang juga muncul adalah fenomena yang dikenal sebagai “halusinasi AI”. Dalam kondisi tertentu, sistem AI dapat menghasilkan informasi yang tidak akurat atau keliru. Jika tidak diverifikasi, keluaran tersebut berpotensi menyebarkan disinformasi bahkan mencemarkan nama baik seseorang.
Para pakar keamanan siber menilai teknologi pada dasarnya bersifat netral. Dampak yang muncul sangat bergantung pada cara manusia memanfaatkannya. Karena itu, regulasi, pengawasan, serta peningkatan literasi digital menjadi faktor penting agar masyarakat dapat menghadapi perkembangan kecerdasan buatan dengan lebih bijak. (fid/fir)
Editor : M Firman Syah