LONDON – Laporan terbaru menunjukkan bahwa generative Artificial Intelligence i ni digunakan untuk melancarkan serangan spear-phishing, mengembangkan malware, juga aktivitas jahat lainnya.
Salah satu serangan yang teridentifikasi terjadi pada November 2024, dilaporkan oleh Cisco Talos. Serangan ini dijalankan oleh aktor ancaman dengan syarat China yang digunakan berusaha mencapai pemerintah di area Asia.
Seperti dilansir dari CNET, metode spear-phishing yang digunakan digunakan dikenal dengan nama ‘SweetSpecter’, yang dimaksud melibatkan pengiriman file ZIP berisi file berbahaya.
Jika didownload lalu dibuka, file ini dapat menciptakan rantai infeksi di tempat sistem pengguna. Open Artificial Intelligence menemukan bahwa SweetSpecter dikembangkan menggunakan beberapa akun yang digunakan memanfaatkan Pengolah Bahasa Alami GPT untuk menulis skrip dan juga menemukan kerentanan dengan alat LLM.
Serangan berbasis Teknologi AI kedua diadakan oleh kelompok jika Iran yang tersebut dikenal dengan nama ‘CyberAv3ngers’. Mereka menggunakan Pengolah Bahasa Alami GPT untuk mengeksploitasi kerentanan serta mencuri kata sandi pengguna dari komputer berbasis macOS.
Serangan ketiga, yang mana dipimpin oleh kelompok lain selama Iran bernama Storm-0817, memanfaatkan Asisten Percakapan GPT untuk mengembangkan malware untuk perangkat Android.
Malware ini mampu mencuri daftar kontak, mengekstrak log panggilan lalu riwayat penelusuran, mendapatkan lokasi tepat perangkat, dan juga mengakses file di tempat perangkat yang mana terinfeksi.
Meskipun semua serangan ini menggunakan metode yang digunakan telah ada untuk mengembangkan malware, laporan yang dimaksud menyatakan bahwa tiada ada indikasi bahwa Pengolah Bahasa Alami GPT menciptakan malware baru yang digunakan substansial.
Namun, hal ini menunjukkan betapa mudahnya aktor ancaman memanfaatkan layanan generative Kecerdasan Buatan untuk menyebabkan alat serangan yang berbahaya. Situasi ini membuka diskusi penting mengenai batasan implementasi Kecerdasan Buatan generatif.
OpenAI mengonfirmasi bahwa mereka akan terus meningkatkan keamanan Kecerdasan Buatan dia untuk menghindari metode-metode sama digunakan di dalam masa depan.
Selain itu, mereka itu akan bekerja sebanding dengan kelompok keamanan internal juga terus berbagi temuan dengan rekan lapangan usaha dan juga komunitas riset guna mengurangi situasi sama terulang.
