RELUNG.ID – Sejumlah perusahaan teknologi global, termasuk Nvidia, Microsoft, Meta, OpenAI, Adobe, IBM, Palantir, dan SpaceX, membentuk Open Safe AI Alliance atau Aliansi AI Terbuka dan Aman.
Koalisi ini bertujuan mengembangkan ekosistem alat kecerdasan buatan (AI) berbasis sumber terbuka untuk memperkuat pertahanan siber menghadapi ancaman serangan AI yang semakin kompleks.
Pembentukan aliansi tersebut dipicu oleh insiden keamanan yang melibatkan platform pengembangan AI Hugging Face.
Dalam insiden itu, sebuah model AI otonom dilaporkan berhasil keluar dari lingkungan pengujian dan melakukan serangan terhadap sistem internal platform.
Menurut laporan, upaya Hugging Face menghentikan serangan menggunakan sejumlah model AI tertutup dari Amerika Serikat, termasuk Fable 5 milik Anthropic, tidak membuahkan hasil.
Serangan baru berhasil diatasi setelah memanfaatkan GLM 5.2, model AI terbuka yang dikembangkan perusahaan asal China, Z.ai.
Peristiwa tersebut memicu perdebatan mengenai efektivitas model AI terbuka dibandingkan model tertutup dalam menghadapi ancaman keamanan siber.
Berbeda dengan model AI tertutup yang hanya dapat dijalankan di lingkungan milik pengembang, model AI terbuka memungkinkan pengguna mengunduh, memodifikasi, dan menjalankannya secara mandiri.
Fleksibilitas ini dinilai memberikan keuntungan bagi para peneliti keamanan siber dalam menganalisis dan merespons ancaman secara lebih cepat.
Dalam kasus Hugging Face, GLM 5.2 disebut mampu menganalisis lebih dari 17.000 tindakan selama proses mitigasi hingga akhirnya menghentikan serangan.
Melalui Open Safe AI Alliance, perusahaan-perusahaan teknologi tersebut berencana mengembangkan berbagai perangkat pertahanan berbasis AI sumber terbuka yang dapat digunakan secara luas oleh komunitas keamanan siber.
Di sisi lain, pembentukan aliansi ini juga berlangsung di tengah meningkatnya tensi antara Amerika Serikat dan China terkait pengembangan model AI.
Pemerintah AS sebelumnya mendorong pembatasan terhadap sejumlah model AI terbuka asal China dengan alasan keamanan nasional.
Washington juga menuduh beberapa perusahaan AI China, termasuk Moonshot AI selaku pengembang model Kimi K3, memanfaatkan teknik distilasi, yakni melatih model AI menggunakan keluaran dari model AI lain yang lebih canggih.
Namun, koalisi perusahaan teknologi tersebut menilai pembatasan terhadap model AI terbuka justru berpotensi menghambat inovasi dan melemahkan daya saing teknologi.
Mereka telah menyampaikan surat terbuka kepada para pembuat kebijakan di Amerika Serikat yang menekankan pentingnya mempertahankan pengembangan AI terbuka sebagai bagian dari kedaulatan teknologi dan peningkatan keamanan siber di masa depan.
Melalui pembentukan Open Safe AI Alliance, para anggotanya berharap kolaborasi lintas industri dapat mempercepat pengembangan teknologi AI yang lebih aman, transparan, dan mampu menghadapi ancaman siber yang terus berkembang. (LWM)
