Menavigasi ancaman cyber dan memperkuat pertahanan di era AI

Dunia keamanan cyber saat ini sedang mengalami transformasi besar. Kecerdasan buatan (AI) berada di garis depan dalam perubahan ini dan menjadi suatu ancaman sekaligus peluang. Meskipun AI berpotensi memungkinkan organisasi mengalahkan serangan cyber dengan kecepatan mesin serta mendorong inovasi dan efisiensi dalam deteksi ancaman, perburuan, dan respons terhadap insiden, pihak-pihak yang tidak bertanggung jawab dapat menggunakan AI sebagai bagian dari eksploitasi mereka. Saat ini sangat penting bagi kami untuk mendesain, menyebarkan, dan menggunakan AI dengan aman.

Di Microsoft, kami mengeksplorasi potensi AI untuk meningkatkan langkah-langkah keamanan kami, menghadirkan perlindungan baru dan tingkat lanjut, dan menciptakan perangkat lunak yang lebih baik. Berkat AI, kami memiliki kemampuan beradaptasi terhadap perkembangan ancaman, mendeteksi anomali secara instan, merespons dengan cepat untuk menetralkan risiko, dan menyesuaikan pertahanan untuk kebutuhan organisasi.

AI juga dapat membantu kami mengatasi tantangan terbesar lainnya dalam industri ini. Dalam menghadapi kurangnya jumlah tenaga kerja keamanan cyber global dengan sekitar 4 juta profesional keamanan cyber yang dibutuhkan di seluruh dunia, AI berpotensi menjadi alat penting untuk menutup kesenjangan keahlian serta membantu jajaran pertahanan untuk menjadi lebih produktif.

Kita telah melihat dalam sebuah studibagaimana  Microsoft Security Copilot membantu analis keamanan di semua tingkat keahlian—dari semua tugas, peserta tercatat 44 persen lebih akurat dan 26 persen lebih cepat.

Untuk menciptakan masa depan yang aman, kita harus memastikan tercapainya keseimbangan antara persiapan AI yang aman dan peningkatan manfaatnya, karena AI memiliki kekuatan untuk mendorong potensi manusia dan memecahkan beberapa tantangan terberat yang kita hadapi.

Penggunaan AI untuk meningkatkan keamanan masa mendatang memerlukan kemajuan mendasar dalam rekayasa perangkat lunak. Hal ini mengharuskan kita untuk memahami dan memerangi ancaman yang didukung oleh AI sebagai komponen penting dari setiap strategi keamanan. Selain itu, kita harus bekerja sama guna menciptakan kolaborasi dan kemitraan yang mendalam antara sektor publik dan swasta untuk memerangi pelaku kejahatan.

Sebagai bagian dari upaya ini dan Inisiatif Secure Future kami, OpenAI dan Microsoft hari ini menerbitkan informasi inteligensi baru yang menjabarkan upaya pelaku ancaman untuk menguji dan mengeksplorasi kegunaan model bahasa besar (LLM) dalam teknik serangan.

Kami berharap informasi ini akan berguna bagi semua industri seiring upaya kita untuk menciptakan masa depan yang lebih aman. Karena pada akhirnya, kita semua memiliki peran dalam menjaga keamanan.

Tonton pengarahan digital Cyber Signals, yang menampilkan Vasu Jakkal, Corporate Vide President di Microsoft Security Business saat mewawancarai ahli inteligensi ancaman utama terkait ancaman cyber di era AI, cara Microsoft menggunakan AI untuk meningkatkan keamanan, dan apa yang dapat organisasi lakukan untuk membantu memperkuat pertahanan.

Lanskap ancaman cyber kini semakin menantang dengan penyerang yang semakin termotivasi, canggih, dan memiliki lebih banyak sumber daya. Pelaku ancaman dan staf keamanan sama-sama mengeksplorasi AI, termasuk LLM, untuk meningkatkan produktivitas mereka dan memanfaatkan platform yang dapat diakses yang sesuai dengan tujuan dan teknik serangan mereka.

Mengingat lanskap ancaman yang berkembang pesat, kami hari ini mengumumkan prinsip-prinsip Microsoft untuk memandu tindakan kami dalam memitigasi risiko pelaku ancaman, termasuk ancaman persisten tingkat lanjut (APT), manipulator persisten tingkat lanjut (APM), dan sindikat penjahat cyber, menggunakan platform dan API AI. Prinsip-prinsip ini mencakup identifikasi dan tindakan terhadap penggunaan AI oleh pelaku ancaman berbahaya, pemberitahuan ke penyedia layanan AI lainnya, kolaborasi dengan pemangku kepentingan lainnya, dan transparansi.

Meskipun motif dan kecanggihan pelaku ancaman berbeda-beda, mereka melakukan tindakan yang sama saat menyebarkan serangan. Tindakan ini mencakup pengintaian, seperti meneliti industri, lokasi, dan hubungan calon korban; penyusunan kode, termasuk peningkatan skrip perangkat lunak dan pengembangan program jahat; dan bantuan dalam mempelajari dan menggunakan bahasa manusia dan mesin.

Berkolaborasi dengan OpenAI, kami membagikan inteligensi ancaman yang menunjukkan bahwa pelaku ancaman terafiliasi negara yang terdeteksi (Forest Blizzard, Emerald Sleet, Crimson Sandstorm, Charcoal Typhoon, dan Salmon Typhoon) menggunakan LLM untuk meningkatkan operasi cyber.

Tujuan kemitraan riset Microsoft dengan OpenAI adalah untuk memastikan penggunaan teknologi AI seperti ChatGPT secara aman dan bertanggung jawab, menjunjung standar tertinggi penerapan yang etis untuk melindungi masyarakat dari potensi penyalahgunaan.

Penggunaan LLM oleh Emerald Sleet melibatkan penelitian terhadap lembaga think tank dan ahli politik Korea Utara, serta pembuatan konten yang kemungkinan akan digunakan dalam kampanye spear phishing. Emerald Sleet juga menggunakan LLM untuk memahami kerentanan yang sudah diketahui publik, memecahkan masalah teknis, dan untuk bantuan dalam menggunakan berbagai teknologi web.

Kelompok lain yang didukung Tiongkok, Salmon Typhoon, telah mengevaluasi efektivitas penggunaan LLM sepanjang tahun 2023 untuk mendapatkan informasi tentang topik yang berpotensi sensitif, atau terkait individu terkenal, geopolitik regional, pengaruh AS, dan urusan dalam negeri. Keterlibatan tentatif dengan LLM ini dapat mencerminkan adanya perluasan alat pengumpulan intelijen dan fase eksperimental dalam penilaian kemampuan teknologi baru.

Kami telah mengambil langkah-langkah untuk mendisrupsi aset dan akun yang terkait dengan pelaku ancaman ini dan membuat tembok serta mekanisme keselamatan di sekitar model kami.

Penipuan yang didukung AI menjadi masalah penting lainnya. Sintesis suara adalah contohnya. Sampel suara berdurasi tiga detik sudah cukup untuk melatih model agar berhasil menirukan suara siapa pun. Bahkan sesuatu yang tidak berbahaya seperti pesan suara Anda dapat digunakan untuk mendapatkan sampel yang memadai.

Sebagian besar cara kita berinteraksi satu sama lain dan menjalankan bisnis bergantung pada identifikasi, seperti pengenalan suara, wajah, alamat email, atau gaya penulisan seseorang.

Sangat penting bagi kita untuk memahami bagaimana pelaku kejahatan menggunakan AI untuk mengacaukan sistem pemeriksaan identitas yang sudah lama ada yang digunakan untuk mengatasi kasus penipuan kompleks dan ancaman rekayasa sosial lainnya yang mengaburkan identitas.

AI juga dapat digunakan untuk membantu perusahaan mendisrupsi upaya penipuan. Meskipun Microsoft telah menghentikan keterlibatan dengan sebuah perusahaan di Brasil, sistem AI kami mendeteksi upaya perusahaan tersebut untuk menciptakan ulang keterlibatannya agar dapat memasuki kembali ekosistem kami.

Kelompok ini terus berupaya mengaburkan informasinya, menyembunyikan akar kepemilikan, dan mencoba masuk kembali. Namun, deteksi AI kami menggunakan hampir puluhan sinyal risiko untuk menandai perusahaan ini sebagai penipu dan mengaitkannya dengan perilaku mencurigakan yang telah diketahui sebelumnya sehingga menghalangi upaya mereka.

Microsoft berkomitmen terhadap AI yang dipimpin manusia yang bertanggung jawab, dengan privasi dan keamanan dengan pengawasan, evaluasi sumber daya, dan interpretasi kebijakan dan peraturan oleh manusia.

Alat tradisional tidak lagi mampu mengimbangi ancaman yang ditimbulkan oleh penjahat cyber. Meningkatnya kecepatan, skala, dan kecanggihan serangan cyber akhir-akhir ini menuntut adanya pendekatan baru terkait keamanan. Selain itu, mengatasi kesenjangan keterampilan menjadi hal yang mendesak, karena kurangnya jumlah tenaga kerja keamanan cyber serta peningkatan frekuensi dan keparahan ancaman cyber.

AI dapat memberikan pengaruh besar pada pertahanan. Sebuah studi terbaru Microsoft Security Copilot (saat ini sedang dalam pengujian pratinjau pelanggan) menunjukkan peningkatan kecepatan dan akurasi analis keamanan pada semua tingkat keahlian, untuk tugas umum seperti mengidentifikasi skrip yang digunakan oleh penyerang, membuat laporan insiden, dan mengidentifikasi langkah remediasi yang tepat^.1