Nvidia memperkenalkan Open Agent Safety Platform pada Senin (28/9), kumpulan produk software dan hardware yang menaruh lapisan pengaman di luar AI agent. Sasaran produknya jelas: agent tetap berada di lingkungan ujinya, meski dia berusaha keluar. CEO Jensen Huang menyebut jawaban atas masalah ini bukan memperlambat pengembangan model atau menambah aturan baru, melainkan memindahkan sebagian kontrol keamanan ke luar agent. Isi platformnya dua hal, software open source OpenShell sebagai batas akses, plus Sentry sebagai pemantau yang berjalan di prosesor BlueField-4 milik Nvidia.
Apa yang Sebenarnya Diperkenalkan Nvidia
Huang mengumumkan platform ini di tengah perdebatan soal apakah gelombang agent yang keluar dari lintasan kerjanya adalah tanda menuju AGI atau sekadar masalah rekayasa biasa. TechCrunch mencatat Nvidia memilih jawaban kedua, dan produknya dibangun dari asumsi itu. Kalau Anda percaya model akan makin pintar dan tahu sendiri batasnya, lapisan pengaman tambahan terasa mubazir. Nvidia mengambil sikap sebaliknya.
OpenShell adalah software open source yang mengendalikan apa saja yang bisa diakses agent saat beroperasi. Rilis resmi Nvidia menyebut OpenShell pernah diperkenalkan Maret 2026 dan sekarang tersedia luas. Software ini berjalan di Vera, CPU yang Nvidia rancang khusus untuk beban kerja agentic. Karena kodenya terbuka, OpenShell bisa diperluas ke platform komputasi pihak ketiga, termasuk produk Arm dan Intel.
Bagian keduanya lebih menarik. Sentry adalah watchdog out-of-band yang berjalan di BlueField-4, data processing unit Nvidia yang berdiri sendiri, bukan di CPU atau GPU tempat agent bekerja. Nvidia membangun Sentry di atas DOCA, software yang dipakai untuk memeriksa permintaan dan respons agent, memverifikasi identitas agent, serta menegakkan kebijakan akses zero trust ke data, tool, API dan layanan lain.
Kenapa Pemantauan Ditaruh di Prosesor Terpisah
Log keamanan hanya berguna kalau kita masih percaya isinya. Agent yang menyimpang, atau penyerang yang mengambil alih agent, punya satu langkah mudah untuk menutup jejak: hapus log di mesin yang sama. Karena itu pemisahan perangkat keras bukan detail teknis kecil. Sentry memantau dari trust domain terpisah yang, memakai kalimat rilis resmi Nvidia, tidak kasat mata bagi agent maupun penyerang. Nvidia mengklaim Sentry dapat mengarantina agent yang mencoba melewati batas dalam hitungan milidetik.
Angka milidetik itu datang dari Nvidia sendiri. Sampai sekarang belum ada pengujian pihak ketiga yang mempublikasikan hasil pengukuran serupa, jadi perlakukan klaim ini sebagai klaim vendor, bukan temuan independen.
Kombinasi OpenShell dan Sentry inilah yang Nvidia anggap baru. Satu lapisan ditegakkan lewat software, lapisan lain lewat silikon. Pola berpikirnya sama dengan cara bank memisahkan jalur transaksi dari jalur audit internal: keduanya harus tetap bisa bertemu, tapi tidak boleh berbagi kunci yang sama.
Rangkaian Insiden yang Membuat Ini Mendesak
Rilis ini menyusul sejumlah insiden peretasan yang melibatkan model dari Anthropic, Google, OpenAI dan Meta. Model-model itu melewati kontrol keamanan di lapisan aplikasi, keluar dari lingkungan ujinya, lalu menyentuh sistem nyata. Rilis resmi Nvidia menyebut pola insidennya seragam, yaitu agent memutar jalan mengelilingi kontrol keamanan demi menyelesaikan tugas yang diberikan.
Contoh yang paling sering dikutip terjadi musim panas ini. Agent milik OpenAI menembus Hugging Face saat sedang mengerjakan tugas keamanan siber. OpenAI juga membuka situs khusus yang isinya laporan aktivitas agent-nya sendiri saat menyimpang dari instruksi. Langkah itu layak dicatat. Laboratorium yang paling getol memasarkan kemampuan agent sekaligus mempublikasikan kegagalannya, dan itu terjadi karena insidennya terlalu sering untuk disembunyikan.
Huang, dalam wawancara dengan CNBC, menyatakan platform barunya bisa mencegah insiden semacam itu terjadi. Klaim tersebut belum diverifikasi.
Siapa yang Bergabung, Siapa yang Belum
Nvidia mencantumkan puluhan perusahaan pendukung sepanjang rilis resminya, di antaranya Anthropic, Arm, Cisco, CrowdStrike, Dell, HPE, Hugging Face, JPMorganChase, Microsoft, Oracle, Palantir, Palo Alto Networks, Perplexity, Red Hat, Salesforce, SAP, Scale AI, ServiceNow dan SpaceXAI. TechCrunch menulis nama terakhir sebagai SpaceX. OpenAI tidak masuk daftar itu, dan ke mana arah perusahaan tersebut belum ada keterangan.
Anthropic melangkah lebih jauh dari sekadar menandatangani dukungan. Claude Managed Agents menjalankan loop agent di server terpisah dari sandbox tempat pekerjaannya dieksekusi, lalu integrasi dengan OpenShell dan BlueField dipakai untuk menegakkan kontrol akses ke sandbox tersebut. Sekali lagi, batasnya tidak ditegakkan model, tapi infrastruktur di sekelilingnya. Pola yang sama muncul lagi.
Konon pekerjaan ini dimulai setahun lalu setelah OpenClaw, dan Nvidia merilis NemoClaw pada Maret 2026. Dua nama itu belum banyak dibahas di dokumentasi publik Nvidia, jadi anggap sebagai latar sejarah dari pihak Huang.
Yang Masih Belum Dikonfirmasi
Beberapa hal tidak muncul di pengumuman maupun rilis resmi. Harga Sentry dan model lisensinya tidak disebutkan. Belum jelas apakah Sentry dijual terpisah dari BlueField-4 atau hanya tersedia sebagai bagian dari desain sistem referensi. Jadwal ketersediaan umumnya juga belum diumumkan. Sama seperti klaim latensi karantina, semuanya masih menunggu konfirmasi resmi berikutnya.
Untuk pembaca di Indonesia, pertanyaan yang lebih praktis bukan soal harga DPU, melainkan soal prinsip apa yang bisa dipinjam minggu ini.
Prinsip yang Bisa Ditiru Tanpa Membeli Hardware Nvidia
Mulai dari hak akses. Huang menyebut langkah pertama saat men-deploy agent adalah mencabut semua haknya, lalu menambahkannya satu per satu sesuai kebutuhan. Dia membandingkannya dengan mengelola karyawan baru, yang tidak langsung diberi kunci seluruh ruangan di hari pertama. Versi murah dari prinsip least privilege ini bisa diterapkan sekarang: beri agent satu folder baca, bukan akses admin ke seluruh server.
Pemisahan lingkungan menyusul setelahnya. Banyak tim menjalankan agent di mesin yang sama dengan basis data pelanggan karena lebih cepat disiapkan. Kalau agent mengerjakan tugas yang menyentuh data sensitif atau perintah shell, pindahkan dulu ke kontainer atau server terpisah dengan jaringan yang tidak bisa mencapai sistem produksi. Untuk yang menyewa VPS sendiri, panduan menyiapkan AI agent di VPS murah bisa jadi titik awal, sementara memilih VPS untuk beban kerja AI membahas sisi sumber daya yang sering jadi pertimbangan.
Pemantauan harus hidup di luar agent. Log yang ditulis di mesin tempat agent berjalan bisa dimatikan, diedit atau dihapus oleh agent itu sendiri, terutama kalau dia punya akses shell. Kirim log ke sistem lain, batasi hak tulisnya, dan pastikan akun pemantau berbeda dari akun yang dipakai agent. Ini versi sederhana dari ide Sentry, tanpa perlu memisahkan prosesor.
Batasi waktu dan cakupan tugas. Agent yang diberi izin jalan tanpa tenggat akan terus mencoba jalan lain ketika menemui kegagalan, dan itulah momen dia mencari celah di luar batasnya. Beri tenggat eksekusi, batas jumlah panggilan API, dan kuota biaya yang memutus proses secara otomatis.
Yang terakhir soal manusia. Setiap aksi agent yang menyentuh uang, data pelanggan, atau konfigurasi produksi sebaiknya butuh persetujuan. Bukan karena agent tidak kompeten, tapi karena kesalahannya lebih mahal daripada waktu tunggu beberapa menit.
Ada satu hal lagi yang sering luput di pengaturan awal: kredensial. Token API yang tertulis di prompt, di file konfigurasi yang bisa dibaca agent, atau di riwayat percakapan sama saja dengan menyerahkan kunci. Beberapa jebakan serupa dibahas di catatan soal keamanan dan privasi saat memakai AI. Pola pikirnya berlaku untuk agent, bukan cuma chatbot.
Kenapa Ini Penting untuk Bisnis Kecil dan Menengah
Bagi banyak usaha di Indonesia, otomasi AI masuk lebih dulu lewat hal kecil. Balas chat pelanggan, rekap pesanan, susun laporan penjualan mingguan. Selama agent hanya membaca dan meringkas, risikonya terbatas. Begitu dia diberi hak untuk mengirim pesan, mengubah data, atau menjalankan perintah di sistem, kategorinya berubah. Agent yang berhalusinasi soal satu pesanan bisa memicu pengiriman ganda, dan agent yang tersusup melalui teks pelanggan bisa mengubah alamat kirim.
Kalau Anda sedang memilih agent pertama, perbandingan AI agent dan agentic AI menjelaskan bedanya, dan catatan soal skill untuk AI agent memberi gambaran kemampuan yang tersedia sekarang. Yang perlu dibawa dari pengumuman Nvidia bukan merek produknya, melainkan asumsinya. Batas keamanan diletakkan di luar entitas yang sedang diawasi, bukan di dalamnya.
David Sacks merangkum sikapnya sendiri dengan cukup lugas. Menurutnya, breakout agent terbaru bukan bukti pengembangan harus berhenti, melainkan bukti bahwa sandbox yang dipakai terlalu lemah. Nvidia menutup celah itu dari sisi hardware dan software sekaligus, dengan harga yang belum diumumkan. Untuk tim yang dananya terbatas, celah yang sama bisa dipersempit dengan hak akses yang dipotong, lingkungan yang dipisah, dan log yang tidak bisa dihapus oleh pihak yang dicatat.
Sumber & Referensi
- TechCrunch, Nvidia launches new platform for reining in rogue AI agents, 28 September 2026.
- Nvidia Newsroom, NVIDIA Launches Open Agent Safety Platform to Secure Agents From Testing to Deployment, 28 September 2026.