Robot sekarang dikendalikan model AI generatif, bukan algoritma yang gerakannya bisa ditebak langkah demi langkah. Masalahnya, sistem probabilistik begini susah diprediksi. Gimana caranya meyakinkan orang kalau robot humanoid di rumah atau di pabrik mereka nggak akan melukai siapa pun?
Pertanyaan itu yang coba dijawab Safeworld, startup yang baru keluar dari mode diam diam pada 5 Oktober 2026 dengan pendanaan awal lebih dari 12 juta dolar AS. Pendanaan dipimpin Shine Capital dan a16z Speedrun, dengan partisipasi Box Group, Carnegie Mellon University Endowment, Innovation Endeavors, dan SV Angel.
Siapa di Balik Safeworld
Pendirinya tiga orang. Dr. Ding Zhao, direktur Safe AI Lab di Carnegie Mellon University, udah hampir dua dekade meneliti keamanan sistem otonom. Dia pernah jadi visiting scholar di Google DeepMind dan penerima NSF CAREER Award, plus terlibat dalam penyusunan standar keamanan internasional. Dua rekannya, Kyle Wong (eksekutif startup berpengalaman) dan Simo Rachidi (engineer machine learning), melengkapi tim inti.
“Tantangan keamanan yang kita bicarakan ini kombinasi dari dua hal. Pertama, evaluasi probabilistik AI generatif tingkat lanjut, gimana cara kita mengukur risiko sistem yang sifatnya probabilistik? Kedua, dan ini yang paling sulit, bagian kepercayaan. Kamu butuh dua hal itu buat bisa deploy robot,” kata Zhao, dikutip TechCrunch.
Nah, inti produk Safeworld ada di simulasi. Mereka membangun versi digital dari lingkungan nyata, lalu menyisipkan simulasi robot yang dijalankan software produksi aslinya. Setelah itu, ribuan skenario manusia dijalankan berulang kali lewat model seperti Genesis atau MuJoCo, buat melihat gimana robot merespons orang yang nggak bisa ditebak gerak geriknya.
Kenapa Simulasi, Bukan Uji Lapangan Langsung
Kyle Wong kasih contoh konkret: ada sudut buta di sebuah fabrik. Berapa kecepatan aman robot di sana? Berapa jarak berhenti yang dibutuhkan biar nggak nabrak orang yang bawa kardus? Apakah sensor robot bisa mendeteksi manusia dalam kondisi itu?
Uji coba fisik buat kasus kayak gitu mahal dan berisiko. “Tripping and falling juga contoh bagus buat testing lewat simulasi,” kata Wong. “Soalnya kalau harus beneran minta orang jatuh berulang kali buat ngetes robot, itu kan nggak masuk akal.”
Pendekatan ini mirip yang dipakai perusahaan kendaraan otonom macam Tesla atau Wayve, yang harus memastikan mobil merespons tepat terhadap kejadian tak terduga di jalan. Bedanya, menurut Zhao, robot kerja di lingkungan yang nggak terstruktur, dan tiap fasilitas punya standar keselamatan sendiri sendiri. Nggak ada satu aturan yang cocok buat semua tempat.
Safeworld sudah menggandeng mitra awal, Gritt Robotics, perusahaan yang mengembangkan otak AI buat robot pemasang panel surya di pembangkit listrik skala industri. Vishal Dugar, CTO Gritt, bilang sulitnya sistem mereka itu nggak bisa dibuktikan aman cuma lewat perhitungan matematis di atas kertas. “Itu harus dibuktikan secara empiris,” kata Dugar. Robotnya bekerja berdampingan sama pekerja manusia, jadi memastikan lengan robotik nggak menabrak siapa pun jadi prioritas utama, dan itu butuh menguji berbagai variasi postur tubuh, mulai dari jongkok, berdiri, sampai jatuh.
Pasar yang Dilihat Safeworld
Zhao yakin kebutuhan ini bakal makin besar begitu robot generatif mulai masuk rumah tangga biasa, bukan cuma fasilitas industri yang terkontrol. “Waktunya membangun standar keamanan industri itu sekarang, selagi robotnya masih dirancang dan dideploy,” kata partner a16z Speedrun, Jonathan Lai, ke TechCrunch. “Begitu robot sudah ada di rumah dan bertabrakan sama anak anak, menyebabkan insiden keselamatan, itu udah terlambat.”
Model bisnis Safeworld masih dalam tahap dicari bentuk finalnya, entah jadi platform yang dipakai mandiri oleh kliennya atau lebih ke layanan berbasis proyek. Yang belum terkonfirmasi juga seberapa besar pasar simulasi keamanan robot ini sebenarnya, karena belum ada data independen soal ukuran industrinya.
Satu hal yang menarik soal daftar investor dan pendukung Safeworld: menurut halaman blog resmi perusahaan, selain investor institusional, ada juga eksekutif dan founder dari Waymo, NVIDIA, Google DeepMind, OpenAI, Aurora, Amazon Robotics, Dyna Robotics, dan Generalist yang ikut mendukung. Kalau benar, ini nunjukin minat lintas perusahaan besar robotik terhadap masalah yang coba dipecahkan Safeworld, meski detail bentuk dukungan masing masing belum dijelaskan secara rinci.
Zhao percaya diri soal posisi bisnis mereka. “Kami mungkin akan jadi perusahaan pertama yang profitable di bidang ini,” katanya, “karena siapa pun yang mau deploy robot, mereka perlu bayar kami buat menangani situasinya.”
Kenapa Ini Relevan Buat Pembaca di Indonesia
Industri robotik dan AI fisik di Indonesia masih di tahap awal dibandingkan Amerika Serikat atau Cina, tapi arahnya jelas mengikuti tren global. Beberapa perusahaan logistik dan manufaktur mulai mengeksplorasi robot bantu di gudang, dan sektor energi terbarukan termasuk yang disebut Safeworld sebagai target awal lewat kemitraan dengan Gritt Robotics.
Poin pentingnya bukan soal kapan robot Safeworld akan dipakai langsung di sini. Poin pentingnya adalah pergeseran cara industri robotik menilai risiko. Dulu, keamanan robot diuji lewat aturan tetap yang bisa diverifikasi lewat matematika. Sekarang, begitu otaknya diganti model AI generatif yang probabilistik, metode lama itu nggak cukup lagi. Perusahaan yang berencana mengadopsi robot AI, di sektor apa pun, perlu mulai bertanya: gimana vendor robotnya memverifikasi keamanan sistem yang sifatnya nggak sepenuhnya bisa diprediksi?
Belum ada kepastian kapan standar semacam ini akan jadi syarat wajib secara hukum di pasar mana pun, termasuk Indonesia. Tapi dengan makin banyak insiden keselamatan robot yang berpotensi muncul begitu adopsi meluas, tekanan buat punya lapisan validasi independen seperti yang ditawarkan Safeworld kemungkinan bakal makin terasa, bukan cuma buat produsen robot di Amerika Serikat.
Artikel Terkait
Soal startup lain yang juga membangun bisnis dari masalah keamanan sistem AI, baca Armadin raih pendanaan besar untuk keamanan agen AI. Kalau topiknya validasi keamanan AI buat pengguna rentan, ada Circuit Breaker Labs uji keamanan AI untuk anak. Buat perbandingan sisi kontrol di perangkat konsumen, cek Apple perketat akses disk penuh macOS gara-gara agen AI.
Sumber & Referensi
Berita ini disusun ulang berdasarkan laporan TechCrunch: Can Safeworld convince people that gen AI robots won’t hurt them? dan pengumuman resmi di blog Safeworld: Why we are building a SafeWorld.