LONDON – Laporan terbaru menunjukkan bahwa generative Teknologi AI i ni digunakan untuk melancarkan serangan spear-phishing, mengembangkan malware, kemudian aktivitas jahat lainnya.
Salah satu serangan yang mana teridentifikasi terjadi pada November 2024, dilaporkan oleh Cisco Talos. Serangan ini diadakan oleh aktor ancaman jika China yang tersebut memiliki target pemerintah di dalam Asia.
Seperti dilansir dari CNET, metode spear-phishing yang digunakan digunakan dikenal dengan nama ‘SweetSpecter’, yang mana melibatkan pengiriman file ZIP berisi file berbahaya.
Jika diambil kemudian dibuka, file ini dapat menciptakan rantai infeksi pada sistem pengguna. Open Artificial Intelligence menemukan bahwa SweetSpecter dikembangkan menggunakan beberapa akun yang mana memanfaatkan Pengolah Bahasa Alami GPT untuk menulis skrip juga menemukan kerentanan dengan alat LLM.
Serangan berbasis Teknologi AI kedua dilaksanakan oleh kelompok jika Iran yang tersebut dikenal dengan nama ‘CyberAv3ngers’. Mereka menggunakan Chatbot GPT untuk mengeksploitasi kerentanan lalu mencuri kata sandi pengguna dari komputer berbasis macOS.
Serangan ketiga, yang mana dipimpin oleh kelompok lain jika Iran bernama Storm-0817, memanfaatkan Asisten Percakapan GPT untuk mengembangkan malware untuk perangkat Android.
Malware ini mampu mencuri daftar kontak, mengekstrak log panggilan serta riwayat penelusuran, mendapatkan lokasi tepat perangkat, dan juga mengakses file di tempat perangkat yang digunakan terinfeksi.
Meskipun semua serangan ini menggunakan metode yang sudah ada ada untuk mengembangkan malware, laporan yang disebutkan menyatakan bahwa tidak ada ada indikasi bahwa Chatbot GPT menciptakan malware baru yang digunakan substansial.
Namun, hal ini menunjukkan betapa mudahnya aktor ancaman memanfaatkan layanan generative Artificial Intelligence untuk memproduksi alat serangan yang mana berbahaya. Situasi ini membuka diskusi penting mengenai batasan implementasi Kecerdasan Buatan generatif.
OpenAI mengonfirmasi bahwa dia akan terus meningkatkan keamanan Teknologi AI mereka itu untuk mengurangi metode-metode sejenis digunakan dalam masa depan.
Selain itu, mereka akan bekerja sejenis dengan kelompok keamanan internal serta terus berbagi temuan dengan rekan sektor juga komunitas riset guna menghindari situasi mirip terulang.
