IBM mengumumkan peluncuran software pertama di industri yang menyatukan tim keamanan dan tata kelola kecerdasan buatan (AI). Melalui integrasi baru antara platform watsonx.governance dan Guardium AI Security, IBM menawarkan solusi terpadu bagi perusahaan untuk mengelola risiko seiring meningkatnya penggunaan agen AI otonom.
Seiring agen AI yang kian merevolusi produktivitas, tantangan dalam pengelolaan dan keamanannya juga meningkat. IBM menjawab kebutuhan ini dengan menyediakan pandangan terpusat terhadap risiko yang dihadapi perusahaan, membantu menjaga sistem AI tetap aman dan bertanggung jawab dalam skala besar.
Ritika Gunnar, General Manager, Data and AI, IBM, menyatakan bahwa potensi besar agen AI juga diiringi dengan risiko yang signifikan jika tidak dikelola dengan baik.
“Agen AI diperkirakan akan merevolusi produktivitas perusahaan, namun manfaat besar dari agen AI juga bisa menjadi tantangan,” ujar Gunnar. “Ketika sistem otonom seperti ini tidak dikelola atau diamankan dengan baik, konsekuensinya bisa sangat besar,” tambahnya.
Solusi terintegrasi ini memperkenalkan beberapa kemampuan utama, seperti deteksi dan otomatisasi keamanan. Melalui kolaborasi dengan AllTrue.ai, Guardium AI Security kini mampu mendeteksi penggunaan AI baru di berbagai lingkungan seperti cloud dan repositori kode. Setelah teridentifikasi, alur kerja tata kelola dari watsonx.governance dapat dipicu secara otomatis.
Automated Red Teaming, kemampuan ini secara otomatis melakukan simulasi serangan untuk membantu perusahaan mendeteksi dan memperbaiki kerentanan serta kesalahan konfigurasi pada berbagai skenario penggunaan AI.
Kemudian kepatuhan regulasi, integrasi ini membantu pengguna memastikan kepatuhan terhadap 12 kerangka kerja regulasi yang berbeda, termasuk EU AI Act, ISO 42001, dan NIST AI RMF.
Pentingnya menanamkan keamanan sejak awal ditekankan oleh Suja Viswesan, Vice President, Security and Runtime Products, IBM.
“Masa depan AI bergantung pada seberapa baik kita mengamankannya sejak sekarang. Menanamkan keamanan sejak awal sangat penting untuk melindungi data, memenuhi kewajiban kepatuhan, dan membangun kepercayaan yang berkelanjutan,” kata Viswesan.