Di era di mana kecerdasan buatan (AI) semakin merajalela, ancaman keamanan siber pun ikut berevolusi dengan kecepatan yang mengkhawatirkan. Para pelaku kejahatan siber kini mampu memanfaatkan celah keamanan sistem dengan cara yang sangat efisien, meninggalkan tim keamanan siber konvensional yang masih bergantung pada metode manual dan sistem yang sudah ketinggalan zaman. Pendekatan tradisional dalam mendeteksi dan memperbaiki kerentanan, yang memakan waktu, tidak lagi mampu mengimbangi laju ancaman yang terus berkembang.
Paradigma baru ini menuntut inovasi dalam strategi pertahanan siber. Namun, mengandalkan AI tanpa panduan yang tepat justru bisa menimbulkan masalah baru. Banyak organisasi yang mencoba menerapkan AI dengan cara yang kurang efektif, seperti memberikan ribuan baris kode kepada model bahasa besar (LLM) seperti ChatGPT atau Claude dengan harapan menemukan bug. Hasilnya sering kali mengecewakan. AI dapat mengalami "halusinasi," menghasilkan laporan positif palsu yang melimpah, dan memberikan temuan yang sulit untuk diverifikasi oleh para ahli keamanan. Kekacauan inilah yang berusaha diatasi oleh raksasa teknologi jaringan dan keamanan, Cisco.
Menyadari tantangan tersebut, Cisco telah mengambil langkah signifikan dengan merilis Foundry Security Spec sebagai sebuah proyek sumber terbuka (open-source). Inisiatif ini bukan sekadar sebuah perangkat lunak, melainkan sebuah kerangka kerja komprehensif atau cetak biru yang telah teruji untuk membangun sistem evaluasi keamanan berbasis AI yang canggih, yang dirancang untuk kebutuhan perusahaan besar. Cisco memahami bahwa perbedaan krusial antara demonstrasi AI yang mengesankan dan sistem keamanan yang benar-benar andal terletak pada orkestrasi yang tepat dan penerapan batasan yang ketat.
Melalui Foundry Security Spec, Cisco membagikan "resep rahasia" mereka untuk membungkus model AI dengan lapisan keamanan yang dirancang sejak awal. Kerangka kerja ini mentransformasi LLM dari sekadar alat penjawab pertanyaan menjadi agen otonom yang mampu melakukan berbagai tugas keamanan yang kompleks. Fleksibilitasnya yang tidak terikat pada model AI tertentu maupun tumpukan teknologi tertentu (model-agnostic dan stack-agnostic) memungkinkan kerangka kerja ini diimplementasikan menggunakan berbagai model AI dan di atas infrastruktur perangkat lunak apa pun, menyesuaikan dengan kebutuhan unik setiap organisasi.
Cisco mengorganisir spesifikasi ini ke dalam dua komponen utama yang saling melengkapi. Pertama adalah artefak "Spec", yang berisi cetak biru arsitektur detail. Cetak biru ini memetakan delapan peran agen inti yang esensial dalam sistem keamanan berbasis AI, seperti Orchestrator (pengatur), Detector (pendeteksi), dan Validator (pemvalidasi). Setiap peran ini dilengkapi dengan 130 persyaratan fungsional operasional yang spesifik.
Komponen kedua, dan mungkin yang paling menarik, adalah artefak "Constitution". Bagian ini memuat sebelas prinsip mutlak yang harus dipatuhi oleh AI tanpa terkecuali. Prinsip-prinsip ini merupakan hasil dari pengalaman mendalam Cisco dalam menghadapi berbagai skenario kegagalan keamanan di lingkungan produksi mereka sendiri, sehingga memiliki landasan praktis yang kuat.
Keunggulan sesungguhnya dari inisiatif Foundry Security Spec ini semakin terlihat ketika dikombinasikan dengan Project CodeGuard. Project CodeGuard sendiri merupakan platform deteksi keamanan berbasis aturan yang juga merupakan kontribusi sumber terbuka dari Cisco kepada Coalition for Secure AI (CoSAI). Sinergi antara Foundry dan CodeGuard menciptakan sebuah mekanisme pertahanan yang cerdas dan adaptif.
Mekanisme ini bekerja seperti efek bola salju yang terus membesar. Ketika agen AI yang diorkestrasi oleh Foundry mulai mengeksplorasi sistem dan mengidentifikasi kerentanan baru yang belum tercatat dalam aturan CodeGuard yang ada, sistem akan secara otomatis mencatatnya sebagai "celah keamanan". Celah ini kemudian diformulasikan menjadi aturan CodeGuard yang baru. Yang lebih revolusioner adalah, aturan baru ini kemudian diintegrasikan kembali ke dalam asisten pengkodean (AI untuk programmer) yang digunakan oleh para pengembang di organisasi tersebut. Konsekuensinya, ketika seorang programmer lain mencoba menulis kode yang memiliki pola kerentanan serupa, AI akan langsung mendeteksinya dan memblokir penulisan kode tersebut bahkan sebelum proses pengetikan selesai. Ini adalah sebuah langkah proaktif yang sangat signifikan dalam mencegah bug sebelum mereka sempat masuk ke dalam sistem.
Timbul pertanyaan mengapa Cisco memilih untuk merilis spesifikasi arsitektur daripada kode sumber aplikasi yang sudah jadi. Omar Santos, seorang Distinguished Engineer di bidang AI Security Engineering Cisco, menjelaskan bahwa kode sumber internal mereka sangat terintegrasi dengan infrastruktur privat Cisco. Jika dirilis langsung ke publik, kode tersebut kemungkinan besar tidak akan dapat berjalan di lingkungan server perusahaan lain. Oleh karena itu, fokus pada spesifikasi arsitektur memberikan fleksibilitas yang lebih besar bagi organisasi lain untuk mengimplementasikannya sesuai dengan kebutuhan dan infrastruktur mereka sendiri.
"Foundry Security Spec adalah spesifikasi sumber terbuka, bukan layanan yang dikelola," ujar Omar. Ia menekankan bahwa Cisco menyediakan kerangka kerja untuk membangun pagar keamanan bagi AI, namun keputusan akhir dan tanggung jawab tetap berada pada manusia. "Anda lah yang harus memastikan bahwa konsep ‘peran manusia’ tetap menjadi pengambil keputusan akhir," tambahnya.
Dengan langkah strategis ini, Cisco berharap dapat mendorong komunitas keamanan siber untuk bekerja lebih efisien dan fokus pada temuan keamanan yang benar-benar berdampak. Harapannya adalah para profesional keamanan dapat meminimalkan waktu yang terbuang untuk menyaring ribuan notifikasi palsu yang dihasilkan oleh AI yang belum terkelola dengan baik, dan mengalihkan energi mereka untuk menangani ancaman yang nyata.
This article was rewritten using AI technology based on information from inet.detik.com without altering the facts of the original article.
