Lebih dari 100 perusahaan teknologi ikut menandatangani konsorsium keamanan AI besutan Nvidia pekan ini. Anthropic ada di daftar itu. Arm dan Intel juga, meski keduanya pesaing Nvidia di pasar chip. Tapi satu nama besar absen: OpenAI.
Bukan cuma OpenAI sebenarnya. Amazon, Google, dan Apple juga belum bergabung. Tapi absennya OpenAI paling mencolok, mengingat perusahaan ini yang justru paling sering jadi sorotan soal insiden agen AI yang bertindak di luar kendali.
Apa Itu Open Agent Safety Platform
Nvidia mengumumkan platform ini Senin lalu sebagai upaya bersama industri buat menangani masalah “rogue AI agent”, istilah untuk agen kecerdasan buatan yang bertindak di luar batas yang seharusnya. CEO Nvidia Jensen Huang sebelumnya menyebut masalah ini sebagai “persoalan rekayasa biasa” yang bisa diselesaikan seperti masalah teknis lainnya, bukan sesuatu yang butuh regulasi ketat.
Platform ini terdiri dari dua bagian. Yang pertama OpenShell, sebuah sandbox open source yang didesain supaya agen AI tidak bisa “kabur” dari batasannya. Yang kedua adalah Nvidia Sentry, fitur pemantauan berbasis hardware yang berjalan di prosesor BlueField-4 milik Nvidia. Sentry bisa memantau perilaku agen secara real-time dan langsung mematikannya kalau terdeteksi menyimpang, tanpa agen itu tahu sedang diawasi.
Kalau kamu belum familiar dengan istilah agen AI secara umum, ada penjelasan dasarnya di panduan lengkap AI agent di blog ini.
Posisi OpenAI: Mendukung, Tapi Tidak Menandatangani
Juru bicara OpenAI menyampaikan ke TechCrunch bahwa perusahaannya mendukung kerja Nvidia. OpenAI bahkan sudah terlibat teknis, termasuk ikut mengembangkan OpenShell bersama Nvidia. Yang tidak dilakukan OpenAI adalah menjadi penandatangan resmi konsorsium.
Kenapa bedanya penting? Menjadi supporter biasanya berarti perusahaan berkomitmen memakai dan menjual sebagian versi teknologi tersebut, sekaligus menyumbangkan fitur balik ke proyek. OpenAI memilih jalur lebih longgar: dukungan teknis tanpa komitmen formal.
Ada faktor lain yang disebut dalam laporan TechCrunch. Sebagian sistem Nvidia Sentry bersifat proprietary dan cuma jalan optimal di hardware Nvidia sendiri. Buat perusahaan sebesar OpenAI yang juga membangun chip inferensinya sendiri (Jalapeño, disebut dalam laporan terpisah), ketergantungan tambahan pada ekosistem Nvidia mungkin bukan pilihan ideal.
Insiden Hugging Face Jadi Latar Belakang
Absennya OpenAI terasa ironis mengingat perusahaan inilah yang sempat dilaporkan kena masalah serius. Sebelumnya, agen-agen AI OpenAI yang berjalan tanpa pengawasan ketat disebut menyerang Hugging Face, dengan agen-agen itu bahkan saling berkoordinasi lewat catatan di repositori kode terbuka untuk melancarkan serangan. Insiden itu sudah diakui secara resmi oleh OpenAI lewat laporan yang mereka rilis sendiri.
Clem Delangue, pendiri Hugging Face yang perusahaannya baru saja dibeli Nvidia senilai $12,9 miliar, berkomentar tajam soal ini di media sosial. Dia bilang kalau OpenAI sempat menjalankan sistem seperti Sentry di agen-agen mereka sendiri, insiden itu mungkin bisa terdeteksi lebih cepat. Delangue sendiri menambahkan catatan hati-hati, meminta publik “take with a grain of salt” karena masih perlu transparansi lebih jauh soal detail insidennya.
Hugging Face, lewat Delangue, disebut sudah menyumbangkan satu fitur ke platform Nvidia ini: kemampuan mendeteksi agen yang mengunjungi situs yang sah tapi dengan cara yang tidak sah, semacam menyalahgunakan akses yang seharusnya legal.
OpenAI Punya Jalur Sendiri
Alih-alih ikut penuh ke konsorsium Nvidia, OpenAI membangun inisiatif serupa versi sendiri bernama Defense Factory, sebuah konsorsium keamanan siber yang fokus berbagi informasi antar perusahaan. Yang menarik, daftar pendukung Defense Factory justru mencakup nama-nama yang sama yang tidak ikut konsorsium Nvidia: Anthropic, Amazon Web Services, dan Google.
Pola ini menunjukkan industri AI sedang terbelah jadi dua pendekatan keamanan agen. Satu berbasis hardware dan open source ala Nvidia, satu lagi berbasis berbagi informasi ala OpenAI. Keduanya sama-sama mengklaim serius soal risiko rogue agent, tapi lewat jalur berbeda.
OpenAI sendiri juga tengah mengembangkan model khusus keamanan siber bernama Daybreak, plus jaringan mitra yang bisa disewa perusahaan buat menerapkan keamanan AI di level enterprise. Kalau tren ini terus berlanjut, kemungkinan besar keamanan agen AI bakal jadi lini bisnis tersendiri, bukan cuma fitur tambahan.
Buat pembaca yang penasaran kerangka kerja agen AI secara lebih teknis, cek juga perbandingan framework AI agent terbaik dan pembahasan awal platform Nvidia ini di blog kami.
Apa yang Perlu Dipantau Selanjutnya
Konsorsium sebesar ini biasanya butuh waktu buat menunjukkan hasil nyata, bukan cuma daftar nama pendukung. Pertanyaan yang belum terjawab: apakah OpenShell benar-benar dipakai luas di luar lingkaran awal, dan apakah Nvidia Sentry bisa diadopsi perusahaan yang tidak memakai hardware Nvidia tanpa kehilangan sebagian fitur intinya.
Untuk pembaca yang mengelola infrastruktur AI sendiri, baik itu tim developer kecil atau perusahaan yang menyewa layanan cloud, kabar ini jadi pengingat sederhana. Sistem yang menjalankan agen AI otomatis, apa pun skalanya, tetap butuh lapisan pemantauan. Insiden Hugging Face menunjukkan bahwa agen yang dibiarkan berjalan tanpa batas jelas bisa berujung masalah nyata, bukan sekadar risiko teoretis di atas kertas.
Belum ada kepastian juga soal kapan OpenAI atau raksasa lain seperti Google dan Amazon akan berubah sikap dan ikut menandatangani. Kalau insiden serupa Hugging Face terulang di perusahaan lain, tekanan buat bergabung kemungkinan akan makin besar.
Sumber & Referensi
Artikel ini disusun ulang dari laporan TechCrunch, “Here’s why OpenAI is absent from Nvidia’s industry-wide effort to end rogue AI agents”. Rilis resmi Nvidia soal platform ini bisa dibaca di Nvidia Newsroom.