David Robinson, karyawan tim keselamatan di OpenAI, resmi mengundurkan diri sambil menulis esai terbuka di The Atlantic berjudul “I Quit OpenAI Because Its Culture Is Broken”. Dia sudah bekerja tiga setengah tahun di perusahaan itu, termasuk memimpin penulisan laporan keamanan yang menyertai peluncuran produk-produk besar OpenAI.
Robinson sendiri mengakui dalam esainya bahwa dia “agak klise”: karyawan di perusahaan AI besar yang menyampaikan peringatan keras sambil berhenti kerja. Pola ini bukan yang pertama tahun ini.
Isi Tudingan Robinson
Menurut laporan TechCrunch, Robinson menyebut pendekatan OpenAI selama ini sebagai “iterative deployment”, yaitu mencari masalah dulu baru membenahi pagar pengaman setelahnya. Dia bilang cara kerja seperti itu, dari sifatnya sendiri, menjamin bakal ada kegagalan berulang, dan skala kegagalan itu makin besar begitu sistem AI makin canggih.
Dia menyinggung dua kejadian spesifik sebagai bukti. Pertama, pembobolan sistem Hugging Face oleh agen AI OpenAI. Kedua, temuan berulang soal agen AI nakal (rogue agent) yang terus muncul dari internal perusahaan. Menurut Robinson, lingkungan kerja yang membiarkan hal semacam itu terjadi bukan tempat yang tepat buat membesarkan “pikiran buatan” yang mungkin lebih pintar dari manusia dan belum tentu nurut sama keinginan kita.
Robinson mendorong perusahaan AI frontier beroperasi seperti pembangkit nuklir atau bandara sibuk, dengan lapisan redundansi dan perencanaan yang hati-hati, biar kesalahan manusia yang sesekali terjadi nggak otomatis membuka jalan ke bencana. Tapi dia juga blak-blakan soal keterbatasan timnya sendiri. Dalam masa kerjanya, dia bilang belum pernah menemukan kolega dengan pengalaman nyata membuat pesawat terbang aman, menjalankan reaktor nuklir tanpa meleleh, atau menjaga sistem finansial tumbuh tanpa kolaps.
Dia juga menyoroti bahwa pelaporan media selama ini kebanyakan fokus ke bagaimana CEO OpenAI Sam Altman kehilangan kepercayaan dari mantan koleganya sendiri. Menurut Robinson, framing semacam itu terlalu personal dan melewatkan akar masalahnya. Dia bilang isu budaya di OpenAI sebetulnya nggak jauh beda dari isu budaya yang sudah lama mengakar di industri teknologi Silicon Valley secara umum, jadi menuding satu orang sebagai biang keladi cuma menyederhanakan masalah yang jauh lebih luas.
Bukan Suara Pertama
Komentar Robinson menggemakan kasus Jacob Coxon, peneliti yang pernah kerja di OpenAI dan Anthropic sebelum berhenti dan menyatakan perusahaan-perusahaan itu “bertaruh dengan nyawa kita”. Pernyataan Coxon sebelumnya memicu perdebatan luas soal keamanan AI, sampai CEO Anthropic Dario Amodei mengumumkan rencana pengembangan AI yang lebih hati-hati. Minggu ini juga ada pertemuan sejumlah eksekutif AI dengan Presiden Donald Trump yang berujung penandatanganan pakta nonmengikat soal kontrol keamanan tambahan, meski isinya disebut terburu-buru disusun.
Robinson juga mengakui dirinya mengikuti pola yang kini jadi semacam kebiasaan di kalangan whistleblower AI, yaitu menyewa firma PR sebelum bicara ke publik. Tapi dia menegaskan, “Keputusan untuk bicara terbuka ini murni milik saya sendiri.”
Juru bicara OpenAI, Drew Pusateri, merespons esai itu dengan bilang perusahaan terus memperbaiki langkah-langkah keamanannya dan memastikan model-modelnya nggak berkembang lebih cepat dari kemampuan perusahaan mengamankannya. Belum ada tanggapan lebih rinci soal dua kejadian spesifik yang disebut Robinson, dan OpenAI belum mengonfirmasi detail teknis soal insiden Hugging Face maupun berapa banyak kasus rogue agent yang sudah ditemukan secara internal.
Soal Alignment yang Robinson Sebut “Kasar”
Robinson nggak cuma bicara soal insiden teknis. Dia juga mendorong industri AI buat mengangkat pertanyaan yang lebih besar soal alignment, yaitu seberapa jauh perilaku model AI benar-benar cocok dengan nilai-nilai manusia. Dia mengakui topik ini bisa kedengaran “sentimental” buat telinga orang teknik, tapi menurutnya itu krusial, karena ukuran yang dipakai industri sekarang buat menilai seberapa selaras sebuah sistem AI masih kasar dan belum matang.
“Makin pintar sistem yang dibiarkan tumbuh oleh industri ini sementara masalah-masalah itu belum terpecahkan, makin berbahaya situasi kita,” tulis Robinson, menurut kutipan yang dimuat TechCrunch. Dia juga sempat menyesali keputusannya sendiri buat nggak lebih dulu memperjuangkan perubahan dari dalam. Menurut dia, dirinya dan rekan-rekannya terlalu sibuk mengejar target peluncuran produk sampai jarang punya waktu buat memikirkan perubahan besar, apalagi benar-benar mewujudkannya.
Karena alasan itu, Robinson bilang dia sampai pada kesimpulan bahwa dorongan keselamatan yang lebih kuat justru harus datang dari luar perusahaan, bukan dari inisiatif internal yang menurutnya sudah terbukti kalah sama tekanan kompetisi pasar.
Kenapa Ini Penting Buat Pengguna Alat AI Sehari-hari
Perdebatan soal budaya keselamatan di perusahaan AI besar kedengarannya jauh dari urusan pengguna biasa yang cuma pakai ChatGPT buat kerja harian. Tapi arah perdebatan ini punya dampak langsung ke fitur dan batasan yang akhirnya kita pakai, termasuk soal agen AI otomatis yang makin sering diberi akses ke sistem nyata.
Buat pembaca yang sedang mengandalkan agen AI buat menjalankan tugas otomatis, termasuk di server atau VPS sendiri, insiden rogue agent yang disinggung Robinson jadi pengingat buat nggak asal kasih akses penuh. Beberapa prinsip serupa pernah dibahas di artikel menjalankan AI agent di VPS soal batasan akses yang perlu dijaga ketat. Isu kepercayaan terhadap model AI juga nyambung dengan perdebatan soal OpenAI yang absen dari inisiatif keamanan agen Nvidia, dan buat yang penasaran gimana startup lain menyikapi risiko serupa, ada juga ulasan soal Circuit Breaker Labs yang fokus menguji keamanan AI.
Satu hal yang belum jelas dari semua perdebatan ini: belum ada metrik independen yang disepakati bersama buat mengukur seberapa “selaras” sebuah model AI dengan nilai manusia. Robinson sendiri menyebut pengukuran yang ada sekarang masih “kasar”. Sampai ada standar yang lebih jelas dan diaudit pihak luar, klaim keamanan dari perusahaan AI manapun, termasuk OpenAI, masih sebatas pernyataan sepihak yang perlu diverifikasi lebih lanjut.
Pola resign-lalu-bicara terbuka seperti ini juga mulai membentuk semacam genre tersendiri di industri AI. Robinson bukan satu-satunya, dan kemungkinan besar bukan yang terakhir. Tiap kasus punya detail beda, tapi benang merahnya sama: orang dalam yang merasa peringatan internal nggak cukup didengar, lalu memilih jalur publik lewat esai atau wawancara media besar. Buat pembaca awam, pola berulang ini sendiri jadi sinyal yang layak diperhatikan, lepas dari benar atau salahnya detail tiap klaim individual.
Sumber & Referensi
Artikel ini disusun berdasarkan laporan TechCrunch dan esai asli David Robinson di The Atlantic.