Aktor ancaman semakin menunjukkan minat terhadap alatan kecerdasan buatan (AI) generatif, seperti yang dibuktikan oleh penjualan ratusan ribu bukti kelayakan OpenAI baru-baru ini di web gelap. Bukti kelayakan ini boleh digunakan untuk mengakses alternatif berniat jahat untuk ChatGPT, AI chatbot OpenAI. Kedua-dua penjenayah siber yang tidak berpengalaman dan berpengalaman boleh menggunakan alat ini untuk mencipta e-mel pancingan data yang lebih meyakinkan dan disasarkan, sekali gus meningkatkan kemungkinan serangan yang berjaya.
Menurut data yang dikongsi dengan BleepingComputer oleh Flare, sebuah syarikat pengurusan pendedahan ancaman, pengguna web gelap dan Telegram telah menyebut ChatGPT lebih 27,000 kali dalam tempoh enam bulan yang lalu. Penyelidik Flare menganalisis forum dan pasaran web gelap dan mendapati bahawa bukti kelayakan OpenAI adalah antara komoditi terkini yang tersedia untuk dijual. Mereka menemui lebih 200,000 bukti kelayakan OpenAI dalam bentuk log pencuri.
Walaupun bilangan kelayakan mungkin kelihatan tidak penting berbanding dengan anggaran 100 juta pengguna aktif pada bulan Januari, ia menunjukkan bahawa pelaku ancaman melihat potensi dalam menggunakan alat AI generatif untuk tujuan berniat jahat. Laporan oleh syarikat keselamatan siber Group-IB pada bulan Jun mendedahkan bahawa pasaran haram di web gelap memperdagangkan log daripada perisian hasad mencuri maklumat yang mengandungi lebih 100,000 akaun ChatGPT.
Penjenayah siber semakin berminat dengan alatan ini, sehinggakan salah seorang daripada mereka telah membangunkan klon ChatGPT bernama WormGPT. Alternatif ini diiklankan sebagai "alternatif GPT terbaik untuk blackhat" dan membolehkan pengguna terlibat dalam aktiviti haram.
WormGPT dilatih pada model bahasa besar sumber terbuka GPT-J yang telah dibangunkan pada tahun 2021. Pembangunnya mendakwa telah melatih alat itu pada set data yang pelbagai, dengan tumpuan pada maklumat berkaitan perisian hasad. Walau bagaimanapun, set data khusus masih tidak didedahkan.
Pembekal keselamatan e-mel SlashNext berjaya mendapatkan akses kepada WormGPT dan menjalankan ujian untuk menilai potensi bahayanya. Para penyelidik menumpukan pada mencipta mesej yang sesuai untuk serangan kompromi e-mel perniagaan (BEC). Keputusan percubaan mereka meresahkan, kerana WormGPT menghasilkan e-mel yang bukan sahaja sangat meyakinkan tetapi juga licik secara strategik, memaparkan potensinya untuk serangan pancingan data dan BEC yang canggih.
Para penyelidik SlashNext mengenal pasti beberapa kelebihan yang boleh dibawa oleh AI generatif kepada serangan BEC. Tatabahasa alat yang sempurna memberikan legitimasi kepada mesej, dan ia membenarkan penyerang yang kurang mahir untuk melakukan serangan di luar tahap kecanggihan mereka sendiri.
Mempertahankan diri daripada ancaman yang muncul ini mungkin terbukti sukar, tetapi syarikat boleh mengambil langkah tertentu untuk menyediakan diri mereka dengan lebih baik. Melatih pekerja tentang cara mengesahkan mesej yang menuntut perhatian segera, terutamanya mereka yang mempunyai komponen kewangan, boleh memberi manfaat. Selain itu, menambah baik proses pengesahan e-mel untuk memasukkan makluman untuk mesej dari luar organisasi atau untuk kata kunci yang dikaitkan dengan serangan BEC boleh membantu mengurangkan risiko.