Evolusi kecerdasan buatan telah membawa kemajuan penting di beberapa sektor tetapi juga membuka jalan bagi teknik serangan baru serta kemungkinan aktivitas jahat baru. Dalam skenario baru ini, "Malla" mewakili a ancaman yang muncul dan canggih.
Mereka disebut MALLA dan, jika Anda belum pernah mendengarnya, itu karena istilah ini cukup baru, diciptakan untuk mewakili layanan yang menggunakan model linguistik canggih untuk mengotomatisasi dan meningkatkan serangan cyber skala besar.
Kita berbicara tentang pasar gelap kecerdasan buatan yang jahat dan berkembang pesat di seluruh dunia. Penjahat dunia maya termasuk yang pertama memanfaatkan potensi kecerdasan buatan dan model linguistik canggih. Kenapa? Untuk menawarkan apa?
Sederhana: layanan berbahaya, mulai dari pembuatan kode malware hingga pembuatan email phishing, pembuatan situs web berbahaya, dan, secara lebih umum, segala sesuatu yang memungkinkan mereka menciptakan kondisi untuk melancarkan serangan dunia maya.
Bagaimana cara kerja Malla? Bagaimana mereka membahayakan keamanan kita?
Kami membicarakannya dalam artikel ini dengan menganalisis dokumen yang dibuat oleh beberapa peneliti dari Universitas Bloomington berjudul: “Mengungkap Layanan Berbahaya Terintegrasi Model Bahasa Besar".
Seperti yang kami perkirakan, Malla adalah layanan jahat yang mengintegrasikan model bahasa besar (LLM) untuk menciptakan alat serangan yang sangat efektif. Serangan ini sangat berbeda dengan serangan tradisional karena keterampilan teknis yang tinggi tidak diperlukan. Faktanya, Mallas mengizinkan penjahat dunia maya untuk mengeksploitasi kemampuan kecerdasan buatan untuk menghasilkan kode berbahaya dan mengotomatiskan kampanye Phishing dan membangun infrastruktur serangan dengan cepat dan efisien.
Layanan ini sering kali tersedia di pasar web gelap, di mana mereka dijual kepada penjahat dengan keterampilan berbeda, dari pemula hingga ahli. Oleh karena itu, Mallas memastikan bahwa hambatan masuk bagi kejahatan dunia maya diturunkan, sehingga serangan canggih dapat diluncurkan terhadap hampir semua orang dengan sedikit usaha, investasi, dan sumber daya.
Mari kita lihat apa kegunaan utamanya dan apa saja jenis serangan siber yang mampu dihasilkannya:
-
Pembuatan kode berbahaya. Ini adalah salah satu area penggunaan Malla yang paling umum. Berkat LLM, penjahat dapat membuat skrip ad hoc dan malware untuk mengeksploitasi kerentanan tertentu dalam sistem. Model-model ini menganalisis dan memahami konteks dan spesifikasi teknis dari sistem target tertentu, menghasilkan kode yang mampu menghindari pertahanan tradisional. Contoh nyata, yang juga terdokumentasi, adalah mengenai sekelompok peretas yang menggunakan layanan Malla untuk membangun eksploitasi 0 hari. Hal ini memungkinkan mereka untuk menyerang sistem penting tanpa terdeteksi selama berbulan-bulan. Kode tersebut sangat canggih sehingga berhasil menghindari sistem deteksi canggih berbasis AI.
-
Pembuatan Email Phishing. Ini adalah wilayah di mana Suku Malla sangat efektif. Dengan menggunakan pemahaman bahasa alami, model bahasa dapat menghasilkan email sempurna yang meniru nada dan gaya komunikasi korporat. Jelas bahwa mengenali penipuan menjadi sangat rumit.
Pada kenyataannya, ada kasus yang diketahui mengenai sebuah organisasi keuangan yang menjadi korban salah satunya kampanye phishing sangat canggih. Email yang dihasilkan menipu beberapa karyawan, membahayakan infrastruktur korban, menyaring informasi sensitif, dan menyebabkan kerugian finansial yang signifikan bagi institusi. Tidak ada filter phishing yang dapat mendeteksi email karena tingkat kecanggihan dan kualitas pembuatannya -
Pembuatan Situs Phishing. Kegunaan lain dari Mallas adalah pembuatan situs web phishing secara otomatis. Ini adalah tiruan dari situs sah yang bertujuan mengumpulkan data sensitif seperti kredensial login, informasi keuangan, dan data pribadi. Juga dalam hal ini, kualitas situs yang dibuat sangat tinggi sehingga tidak dapat dikenali bahkan oleh sebagian besar sistem pakar sekalipun. Salah satu kasus yang terjadi adalah situs e-commerce palsu yang berhasil menipu ribuan pelanggan. Situs tersebut merupakan salinan yang hampir sama dari pengecer online terkenal, lengkap dengan sertifikat SSL dan gaya yang sangat mirip. Pengguna yang memasukkan informasi pembayaran mereka akan mengalami penipuan finansial berikutnya.
-
Otomatisasi Serangan Rekayasa Sosial. Mallas juga mampu mengotomatisasi serangan rekayasa sosial. Model ini dapat menganalisis data dalam jumlah besar, mengidentifikasi kerentanan manusia, dan menghasilkan skrip yang meyakinkan korban untuk melakukan tindakan yang membahayakan, seperti mengklik tautan berbahaya atau memberikan kredensial login.
Contoh Nyata: Dalam sebuah kampanye tombak phishing, Malla digunakan untuk membuat profil sosial palsu yang berinteraksi dengan korban selama berminggu-minggu untuk mendapatkan kepercayaan mereka. Akhirnya, korban ditipu untuk mentransfer dana ke rekening bank yang dikendalikan oleh peretas. Seluruh proses telah diotomatisasi, meminimalkan intervensi manusia oleh penjahat.
Munculnya Mesh telah mengubah lanskap keamanan siber secara mendasar. Layanan ini tidak hanya meningkatkan efektivitas serangan, namun juga mempersulit pertahanan terhadap serangan tersebut. Dampak yang paling signifikan adalah:
-
Peningkatan Frekuensi dan Kompleksitas Serangan: suku Malla mengurangi waktu dan sumber daya yang dibutuhkan untuk melancarkan serangan kompleks dengan meningkatkan jumlah mereka secara signifikan.
-
Peningkatan Kualitas Serangan: Kemampuan LLM untuk menghasilkan konten yang realistis dan personal membuat pendeteksian dan intersepsi serangan menjadi semakin sulit. Sistem pertahanan tradisional, yang didasarkan pada pola dan ciri khas, sering kali gagal dalam menghadapi ancaman tingkat lanjut ini.
-
Mengurangi Hambatan Masuknya Kejahatan Dunia Maya: Suku Malla memungkinkan demokratisasi kejahatan dunia maya. Apa maksudnya? Artinya, bahkan penjahat dengan keterampilan teknis terbatas pun mampu melancarkan serangan canggih yang mengakibatkan peningkatan jumlah calon penjahat.
-
Dampak Ekonomi dan Reputasi: Serangan yang dibuat "lebih sederhana" dengan menggunakan Mallas dapat menyebabkan kerugian ekonomi yang signifikan terhadap perusahaan dengan akibat kerusakan reputasi yang dapat menyebabkan ketidakpercayaan di pihak pelanggan mereka.
Untuk melawan Mesh perlu adanya pendekatan yang maju dan berlapis-lapis seperti:
-
Pengembangan AI Defensif. Pertama-tama, kita perlu berjuang secara setara dan oleh karena itu, kita perlu mengembangkan sistem kecerdasan buatan yang mampu mendeteksi dan memblokir serangan yang dihasilkan oleh layanan ini. AI Pertahanan dapat menganalisis pola perilaku, anomali lalu lintas jaringan, dan indikator kompromi (IoC) lainnya secara real-time, sehingga dapat merespons ancaman dengan segera. Contohnya adalah terkait penggunaan platform AI yang mampu mengidentifikasi upaya phishing yang dilakukan Malla melalui analisis linguistik email. Konsepnya adalah memiliki sistem yang mampu terus belajar mengingat kecepatan evolusi teknik serangan. Hal ini meningkatkan kemampuan deteksi mereka, sehingga mengurangi risiko penyusupan.
-
Edukasi dan Kesadaran Pengguna. Strategi lain yang selalu dianggap penting dalam bidang pencegahan adalah pendidikan pengguna. Membuat pengguna sadar akan metodologi serangan baru adalah dasar yang memungkinkan mereka mengenali tanda-tanda bahaya dan menerapkan perilaku aman. Dari sudut pandang ini, penting bagi perusahaan untuk menentukan dan mengusulkan program pelatihan berkelanjutan bagi karyawannya, dengan simulasi serangan phishing dan latihan praktis lainnya
-
Kolaborasi internasional. Saat ini, mereka yang memiliki kekuatan teknologi juga akan memiliki kekuatan politik. Oleh karena itu, karena kejahatan dunia maya merupakan fenomena global dan memiliki jangkauan global, maka diperlukan kerja sama internasional untuk memantau, mengidentifikasi, dan memberantas suku Malla.
Misalnya, operasi yang dilakukan bersama oleh Europol dan perusahaan keamanan siber berujung pada penyitaan server yang digunakan untuk mengoperasikan layanan Malla, membongkar jaringan kriminal, dan menangkap mereka yang bertanggung jawab. -
Pengembangan peraturan dan regulasi. Penggunaan LLM juga harus diatur untuk mencegah penggunaannya untuk tujuan jahat. Akan bermanfaat untuk memperkenalkan undang-undang yang mengatur penggunaan dan pengembangan model bahasa tingkat lanjut.
Gelombang teknologi tidak dapat dihentikan dan sering kali disalahgunakan. Kita sudah dapat memperkirakan bahwa i Mesh mereka akan menjadi semakin canggih dan tersebar luas. Kemampuan suku Malla dalam menciptakan serangan siber yang semakin sulit dideteksi akan tumbuh secara eksponensial seiring dengan pertumbuhan dan perkembangan model bahasa generasi mendatang, seperti GPT-4. Namun juga benar bahwa, dengan menyadari bahwa fenomena baru ini ada dan terus berkembang, fenomena ini hanya dapat dimitigasi dan dikurangi melalui investasi pada teknologi pertahanan baru, pendidikan pengguna, dan kolaborasi internasional.
Referensi
https://arxiv.org/pdf/2401.03315
https://www.darkweb-guide.com/malla-demystifying-llm-integrated-malicious-services/
