- Penjahat dunia maya menggunakan AI untuk melakukan serangan yang sangat bertarget dalam skala besar, menyebabkan orang tanpa sadar mengirimkan uang dan informasi sensitif atau sekadar membuka diri terhadap pencurian.
- Peretas kini dapat menyewa model bahasa besar AI generatif yang dibuat dalam komunitas kejahatan dunia maya bawah tanah untuk membantu merumuskan penipuan berbasis teks.
- Namun, sama seperti AI generatif yang meningkatkan dan menskalakan serangan rekayasa sosial, AI generatif juga memberikan dukungan bagi para pembela HAM.
Sidoarjo, Getindo.com – Di era kecerdasan buatan atau AI, janji efisiensi tidak hanya diperuntukkan bagi pekerja yang mempunyai niat baik. Operator kereta bawah tanah juga mendapatkan akses terhadap cara-cara yang lebih baru dan lebih baik dalam melakukan sesuatu, yang sering kali merugikan para korban yang tidak mengetahuinya. Dengan kata lain, penjahat dunia maya menggunakan AI untuk melakukan serangan yang sangat bertarget dalam skala besar, menyebabkan orang tanpa sadar mengirimkan uang dan informasi sensitif atau membuka diri terhadap pencurian menggunakan metode yang mungkin tidak mereka sadari.
Lihat saja pekerja perusahaan IT Hong Kong yang baru-baru ini mentransfer lebih dari $25 juta kepada penjahat setelah mereka menggunakan deepfake untuk menyamar sebagai kepala keuangan perusahaan melalui video call atau Taylor Swift palsu yang tampaknya melemparkan peralatan masak Le Creuset sebagai cara untuk menipu Swifties. Pada tingkat yang lebih sederhana adalah email, postingan media sosial, dan iklan yang dapat dipercaya dengan tata bahasa yang sempurna dari akun yang terlihat dan terasa seperti aslinya.
Jenis serangan rekayasa sosial yang dikenal sebagai kompromi email bisnis (BEC) tumbuh dari 1% dari seluruh ancaman pada tahun 2022 menjadi 18,6% pada tahun 2023, menurut laporan tren keamanan siber tahunan terbaru dari pelindung ancaman siber, Perception Point. Tingkat pertumbuhannya mencapai 1.760%, dan masalah ini dipicu oleh alat AI generatif.
Terkait penipuan berbasis teks, penjahat dunia maya biasanya tidak menggunakan ChatGPT biasa untuk merumuskan bahasa. Sebaliknya, mereka bergantung pada layanan komunitas kejahatan dunia maya bawah tanah. “Anda memiliki model bahasa besar yang dapat disewa oleh penjahat dunia maya,” kata Steve Grobman, wakil presiden senior dan kepala bagian teknologi di McAfee. “Ekosistem kejahatan dunia maya telah menghilangkan semua hambatan yang ada.”
Outputnya cukup berdampak untuk menghilangkan kesalahan tata bahasa dan bahkan meniru gaya penulisan target.
Salah satu metode serangan siber adalah peniruan identitas merek. Lebih dari setengah (55%) dari semua kasus peniruan identitas merek terjadi pada merek organisasi itu sendiri pada tahun 2023, menurut laporan Perception Point. Penjahat dunia maya dapat melakukannya melalui pengambilalihan akun di media sosial atau email. Lalu ada teknik yang disebut malvertising, atau memasang iklan jahat di Google yang berupaya meniru dan mengesampingkan kunjungan ke situs sebenarnya yang disalin oleh iklan palsu tersebut.
Tal Zamir, chief technology officer di Perception Point, membahas bagaimana penjahat kini dapat membuat malware polimorfik (atau malware dengan banyak variasi) dalam skala besar menggunakan AI dan otomatisasi. Selain itu, mereka “mendapatkan bantuan dalam penelitian kerentanan untuk mencari cara untuk menyalahgunakan komputer Anda dan membuat malware tersebut menjadi lebih berbahaya,” kata Zamir.
Namun, sama seperti AI generatif yang meningkatkan dan menskalakan serangan rekayasa sosial, AI generatif juga memberikan dukungan bagi para pembela HAM. Grobman mengatakan hal ini terlihat dari kemampuan kita menggunakan segala jenis sumber daya digital. Ia mengatakan, “Kita telah menciptakan kehidupan kita dan memanfaatkan sepenuhnya dunia digital yang kita tinggali, bahkan ketika unsur-unsur penjahat dunia maya berperan penuh, terutama karena industri pertahanan dunia maya mampu berperan sebagai kucing yang efektif. -permainan dan tikus.”
Bagaimana Penipuan Email Yang Dihasilkan Oleh AI Dihentikan
Kiri Addison, manajer senior untuk manajemen produk di perusahaan keamanan komunikasi dan kolaborasi Mimecast, mengatakan para pembela HAM kini dapat menggunakan AI untuk memahami sentimen pesan selain menandai kata kunci tertentu, dan mereka dapat mengotomatiskan proses tersebut untuk efektivitas maksimum. Selain itu, mereka juga dapat bertahan dari permasalahan yang lebih luas dengan memasukkan data ke dalam model yang sudah ada atau menghasilkan kumpulan data baru menggunakan AI.
Addison, yang perusahaannya berspesialisasi dalam keamanan email (yang masih menjadi jalur utama bagi penjahat dunia maya), mengatakan, “Anda dapat menghasilkan email yang sangat bagus ini, namun kami masih dapat mencegah email tersebut masuk ke kotak masuk pengguna sehingga mereka tidak perlu melihatnya.”
Untuk melawan kepercayaan terhadap deepfake, McAfee adalah salah satu perusahaan yang mengembangkan alat pendeteksi AI. Perusahaan meluncurkan Project Mockingbird di CES 2024, yang diklaim dapat mendeteksi dan mengekspos audio yang diubah AI dalam video. Namun, Grobman membandingkan deteksi AI dengan prakiraan cuaca, dengan mengatakan, “Saat Anda bekerja di dunia AI, segala sesuatunya tidak terlalu bersifat deterministik.”
Untuk menangani quishing (phishing menggunakan kode QR berbahaya), yang menyumbang 2% dari seluruh ancaman pada tahun 2023 menurut Perception Point, perusahaan memprioritaskan deteksi kode QR segera setelah kode tersebut tiba di perangkat. Namun dia mengakui, “Banyak sistem keamanan tradisional tidak dilengkapi untuk mendeteksi kode QR dan menindaklanjutinya,” yang berarti quishing masih lazim dan dapat didorong oleh AI dan otomatisasi.
Kejahatan Dunia Maya adalah Sebuah Bisnis
Meskipun pembela ahli sangat penting, pendidikan publik tetap menjadi metode proaktif untuk mencegah ancaman dalam menyelesaikan misi mereka. Sama seperti banyak orang tua yang mengkalibrasi ulang cara mereka membesarkan anak-anak mereka setelah era latchkey kid, orang dapat mengkalibrasi ulang kepercayaan mereka terhadap apa yang mereka lihat, dengar, dan baca.
Secara individu, Grobman mengatakan untuk mengajukan pertanyaan seperti: Apakah ini masuk akal? Apakah kesepakatan itu terlalu bagus untuk menjadi kenyataan? Dapatkah saya memvalidasinya pada sumber berita yang kredibel atau melalui individu terpisah yang dapat dipercaya?
Di tingkat organisasi, Addison merekomendasikan penggunaan pendekatan berbasis risiko. Dia merekomendasikan untuk bertanya: Apa nilai yang Anda miliki? Apa aset Anda? Mengapa penyerang mungkin menargetkan Anda? Dia juga merekomendasikan untuk tetap fokus pada ancaman saat ini dan fokus lainnya pada ancaman di masa depan (seperti serangan komputasi kuantum, yang menurutnya akan terjadi).
“Jika Anda dapat menunjukkan contoh nyata dari serangan semacam ini, akan sangat membantu jika kita menempatkan segala sesuatunya ke dalam konteksnya,” kata Addison.
Meskipun terdapat ancaman yang terus berlanjut dan terus berkembang, para pakar keamanan siber tetap optimis. “Para pembela HAM memiliki keuntungan yang tidak bisa dimiliki oleh penyerang,” kata Zamir. “Kami mengetahui organisasi ini dari dalam.”
Pada akhirnya, kedua tim telah mencapai titik baru dalam batas efisiensi. “Penting untuk menganggap kejahatan dunia maya sebagai sebuah bisnis,” kata Grobman. Sama seperti bisnis sah yang mencari AI agar lebih produktif dan efektif, penjahat dunia maya juga demikian.
Source:
