Perubahannya bukan berarti AI sudah mampu melakukan seluruh serangan secara mandiri. Dalam banyak kasus, pelaku masih menggunakan manusia sebagai pengambil keputusan utama, sementara AI berfungsi sebagai alat untuk mempercepat pekerjaan tertentu. Google Threat Intelligence Group (GTIG) mencatat bahwa sepanjang 2025 pelaku ancaman semakin mengintegrasikan AI ke berbagai tahap operasi mereka.
Google Threat Intelligence Group — AI Adversarial Use, 2026AI membantu mempercepat pekerjaan yang sebelumnya membutuhkan lebih banyak waktu dan tenaga.
AI dapat membantu membuat pesan penipuan yang lebih rapi, personal, dan mudah disesuaikan.
Forum kriminal mulai menawarkan berbagai layanan AI untuk mendukung aktivitas berbahaya.
AI Tidak Selalu Dipakai untuk Menyerang
AI bukan teknologi kriminal. Perusahaan keamanan juga menggunakan AI untuk mendeteksi ancaman, menganalisis log, mempercepat investigasi, dan membantu merespons insiden. Masalah muncul ketika kemampuan yang sama digunakan untuk tujuan berbahaya.
Microsoft dalam Digital Defense Report 2025 menjelaskan bahwa pelaku ancaman semakin menggunakan AI untuk meningkatkan skala phishing dan mengotomatisasi bagian tertentu dari serangan. Di sisi lain, Microsoft juga menggunakan AI untuk mempercepat pertahanan, sehingga terjadi semacam perlombaan antara kemampuan menyerang dan kemampuan mendeteksi.
Microsoft — Digital Defense Report 2025Bagian Cybercrime yang Bisa Dipercepat AI
Salah satu penggunaan yang paling terlihat adalah pembuatan konten. AI generatif dapat menghasilkan teks dengan cepat dan dalam banyak bahasa. Bagi pelaku, kemampuan ini dapat membantu membuat komunikasi penipuan yang lebih natural, terutama ketika menargetkan orang dari negara atau bahasa yang berbeda.
Social engineering adalah manipulasi terhadap manusia agar korban melakukan tindakan tertentu atau memberikan informasi. AI dapat membuat proses tersebut lebih mudah diskalakan karena pesan dapat disesuaikan dengan konteks korban tanpa harus ditulis satu per satu oleh manusia.
GTIG melaporkan bahwa pada 2025 mereka menemukan berbagai penawaran di forum underground yang mengklaim mampu membantu phishing, pembuatan malware, riset target, dan aktivitas teknis lain. Temuan tersebut menunjukkan bahwa AI mulai diposisikan sebagai bagian dari ekosistem jasa kriminal.
Google Threat Intelligence Group — AI Threat TrackerAI dan Phishing
Phishing adalah penipuan yang menyamar sebagai pihak tepercaya untuk memperoleh informasi atau membuat korban melakukan tindakan tertentu. Selama bertahun-tahun, phishing sering mudah dikenali karena bahasa yang buruk atau pesan yang terlihat aneh.
AI membantu mengurangi masalah tersebut. Pelaku dapat menghasilkan bahasa yang lebih rapi, menerjemahkan konten, membuat variasi pesan, dan menyesuaikannya untuk kelompok target berbeda. Microsoft menyebut AI-driven phishing sebagai bagian dari perkembangan ancaman modern dan memperingatkan bahwa serangan menjadi lebih cepat dan lebih terukur.
Microsoft Security — Generative AI Security ThreatsAI Mulai Masuk ke Malware
Malware adalah perangkat lunak berbahaya yang dibuat untuk mencuri data, merusak sistem, mengganggu operasi, atau melakukan tindakan tanpa izin. Selama ini, malware biasanya memiliki perilaku yang ditentukan sejak dibuat.
GTIG pada November 2025 melaporkan temuan malware eksperimental yang menggunakan model bahasa saat berjalan untuk membantu mengubah perilaku tertentu. Salah satu contoh yang mereka amati adalah PROMPTFLUX. Google menekankan bahwa teknologi tersebut masih dalam tahap awal dan belum menunjukkan kemampuan untuk mengkompromikan jaringan korban secara mandiri, tetapi arahnya menunjukkan kemungkinan malware yang lebih adaptif di masa depan.
Google Threat Intelligence Group — AI-enabled Malware FindingsPerkembangan ini penting karena sistem keamanan tradisional sering mencari pola yang sudah dikenal. Jika malware dapat mengubah sebagian perilakunya, proses deteksi menjadi lebih menantang. Karena itu, pertahanan semakin membutuhkan kombinasi analisis perilaku, threat intelligence, dan otomatisasi.
AI dalam Ekonomi Underground
Dunia underground tidak selalu terdiri dari kelompok hacker yang melakukan seluruh aktivitas dari awal sampai akhir. Cybercrime modern memiliki pembagian kerja yang semakin jelas. Ada pengembang, operator, penyedia akses, pencuri data, dan pihak yang menjual layanan tertentu.
Access broker adalah pihak yang menyediakan akses awal ke sistem atau akun yang telah dikompromikan. Dalam ekosistem yang lebih luas terdapat pula model Crime-as-a-Service, yaitu kemampuan kriminal yang dikemas sebagai layanan. AI dapat menjadi lapisan baru yang membantu beberapa bagian dari model tersebut.
Microsoft — Cybercrime EconomyGTIG mencatat bahwa pada 2025 pasar underground untuk tool AI semakin matang. Beberapa penawaran dipromosikan sebagai alat multifungsi untuk phishing, pengembangan malware, riset, dan dukungan teknis. Artinya, kemampuan AI mulai diperlakukan sebagai komoditas yang bisa mendukung pelaku dengan kemampuan teknis berbeda.
Google Threat Intelligence Group — Underground AI MarketplaceAlur Sederhana AI dalam Cybercrime
AI membantu membuat konten, menganalisis informasi, atau mempercepat pekerjaan tertentu.
Kemampuan tersebut digabungkan dengan alat, akun, atau infrastruktur lain.
Proses yang sebelumnya dilakukan manual dapat diperluas ke lebih banyak target.
Korban menghadapi risiko penipuan, pencurian data, gangguan layanan, atau kerugian finansial.
Contoh Nyata: AI dan Kerugian Akibat Penipuan
FBI dalam Internet Crime Report 2025 mencatat lebih dari 22.000 pengaduan yang secara khusus melibatkan penggunaan AI dalam cybercrime. Kerugian yang dilaporkan untuk kelompok pengaduan tersebut mencapai lebih dari US$893 juta.
FBI — 2025 Internet Crime ReportFBI juga mencatat bahwa AI digunakan dalam berbagai pola penipuan, termasuk Business Email Compromise atau BEC, penipuan hubungan, dan skema lain yang memanfaatkan konten sintetis seperti teks, gambar, suara, atau video. Ini memperlihatkan bahwa risiko AI tidak hanya berada di wilayah teknis, tetapi juga menyentuh kepercayaan manusia.
FBI — Cryptocurrency and AI Scams, 2026Pembuatan Situs Palsu dan SEO
AI juga membuat pembuatan konten dalam jumlah besar menjadi lebih mudah. Pelaku dapat memanfaatkan berbagai teknik distribusi untuk membuat halaman palsu ditemukan oleh calon korban.
SEO atau Search Engine Optimization adalah teknik untuk meningkatkan visibilitas sebuah halaman di mesin pencari dan memiliki banyak penggunaan yang sah. Namun, SEO poisoning adalah penyalahgunaan teknik tersebut agar halaman berbahaya atau palsu muncul ketika pengguna mencari informasi tertentu.
Microsoft pada 2026 melaporkan aktivitas Storm-2561 yang menggunakan SEO poisoning untuk mendorong hasil pencarian berisi software VPN palsu yang kemudian digunakan untuk pencurian kredensial. Kasus ini menunjukkan bahwa teknologi otomatisasi konten dapat dikombinasikan dengan teknik lama untuk memperluas jangkauan serangan.
Microsoft Threat Intelligence — Cybercrime and SEO PoisoningIstilah Lama Tetap Menjadi Bagian dari Rantai Serangan
AI tidak menggantikan teknik lama. Webshell, misalnya, adalah skrip yang dapat memberikan kemampuan mengendalikan server melalui antarmuka web dan sering muncul dalam investigasi kompromi. Botnet adalah jaringan perangkat yang telah terinfeksi dan dikendalikan secara terkoordinasi.
Begitu pula aged domain dan expired domain. Aged domain merupakan domain yang telah berumur, sedangkan expired domain merupakan domain yang masa registrasinya tidak diperpanjang. Keduanya memiliki penggunaan legal, tetapi dapat disalahgunakan bersama konten palsu atau phishing.
Kombinasi teknologi baru dan metode lama inilah yang membuat ancaman semakin kompleks. AI dapat mempercepat pembuatan konten, sementara infrastruktur lama seperti website, server, botnet, atau akun curian tetap digunakan sebagai bagian dari operasi.
Risiko bagi Pengguna dan Organisasi
Risiko terbesar adalah meningkatnya skala. Satu pelaku dapat menghasilkan lebih banyak konten, melakukan lebih banyak komunikasi, dan menganalisis lebih banyak informasi dalam waktu yang sama. Ini membuat batas antara serangan sederhana dan operasi terorganisir menjadi semakin tipis.
Organisasi juga menghadapi risiko baru ketika AI mulai digunakan secara internal. Informasi sensitif yang dimasukkan ke layanan AI, koneksi AI dengan sistem perusahaan, serta agen AI yang memiliki akses ke sumber daya tertentu dapat menciptakan permukaan serangan baru.
Mandiant menekankan pentingnya governance AI, pengujian keamanan, dan red teaming untuk menghadapi risiko baru tersebut. Pendekatannya bukan menghentikan penggunaan AI, tetapi memastikan teknologi digunakan dengan kontrol yang memadai.
Mandiant — AI Risk and ResilienceCara Mengurangi Risiko
- Tingkatkan perlindungan identitas dan gunakan autentikasi multifaktor.
- Latih pengguna untuk mengenali phishing dan konten sintetis yang mencurigakan.
- Pantau penggunaan AI dan data sensitif yang diproses oleh layanan AI.
- Gunakan logging dan monitoring terhadap akun, aplikasi, serta infrastruktur penting.
- Lakukan pengujian keamanan dan evaluasi risiko pada aplikasi AI.
- Perbarui sistem dan tutup kelemahan yang diketahui.
Google dan Microsoft sama-sama menunjukkan bahwa AI juga merupakan alat penting bagi pertahanan. AI dapat digunakan untuk membantu menganalisis sinyal keamanan dalam jumlah besar, menemukan pola yang mencurigakan, dan mempercepat pekerjaan analis.
Microsoft Security — AI for Security OperationsKesimpulan
AI tidak menciptakan cybercrime, tetapi memperbesar kemampuan yang sudah dimiliki pelaku. Penulisan phishing, riset target, pengembangan perangkat, otomatisasi, dan pembuatan konten dapat dilakukan lebih cepat dengan bantuan AI.
Perkembangan paling penting adalah munculnya pasar underground yang mulai menawarkan kemampuan AI sebagai bagian dari layanan kriminal. Access broker, pengembang malware, operator penipuan, dan kelompok lain dapat menggunakan teknologi tersebut sesuai peran masing-masing. Pola ini membuat cybercrime semakin terorganisir dan mudah diperluas.
Namun, AI juga menjadi alat penting bagi pertahanan. Tantangan ke depan bukan memilih antara menggunakan atau meninggalkan AI, melainkan memastikan teknologi tersebut digunakan dengan pengamanan, pengawasan, dan tanggung jawab yang tepat.
