KEPULAUAN BANGKA BELITUNG — CEO Microsoft Satya Nadella mengusulkan perlunya "rem darurat" bagi model AI yang beroperasi, disampaikan lewat unggahan di X belum lama ini. Usulan ini muncul ketika perusahaan-perusahaan AI terdepan mengakui semakin banyak insiden di mana mereka tampak kehilangan kendali atas model buatan mereka. Nadella menekankan pentingnya arsitektur kepercayaan yang bisa menghentikan AI di tengah tugas.
Microsoft CEO Satya Nadella menyerukan pendekatan baru dalam pengawasan kecerdasan buatan, menekankan bahwa sistem AI tidak bisa diperlakukan sebagai kotak hitam yang saling bersarang begitu saja. Ia menuangkan gagasan ini dalam unggahan di platform X pada Sabtu pagi waktu setempat, merespons meningkatnya kekhawatiran soal keamanan model AI yang semakin otonom.
Dalam unggahannya, Nadella menyatakan sudah waktunya "melangkah mundur dan menilai arsitektur kepercayaan" dari AI. Ia mengusulkan pemisahan antara model itu sendiri dengan harness yang mengorkestrasi pekerjaannya.
Menurut Nadella, pendekatan itu juga mencakup "eksternalisasi kontrol dan pengamanan". Setiap tindakan model yang signifikan, katanya, harus didokumentasikan dengan "bukti yang dapat dibaca manusia dan anti-sabotase".
Ia juga menyerukan sistem di mana "orang yang berwenang" selalu memiliki kemampuan "untuk menjeda atau mematikan model di tengah tugas".
Nadella mendorong perubahan cara pandang dalam pengembangan AI. Ia menilai model harus diasumsikan sudah tersusupi sejak awal, lalu dibatasi pergerakannya.
"Kita harus mengasumsikan sebuah model sudah tersusupi dan membatasinya sejak awal," ujarnya. "Bayangkan seperti rem darurat."
Pernyataan ini menjadi salah satu usulan paling konkret dari eksekutif teknologi besar soal mekanisme penghentian darurat AI. Pendekatannya menekankan kontrol eksternal yang bisa diaudit, bukan sekadar mengandalkan pelatihan internal model agar berperilaku aman.
Komentar Nadella muncul setelah perusahaan-perusahaan AI terkemuka mengakui lebih banyak insiden di mana mereka tampak kehilangan kendali atas model mereka. Pengakuan ini memperkuat argumen bahwa pengamanan AI perlu dibangun di lapisan sistem, bukan hanya di dalam model.
Sebelumnya, CEO Anthropic Dario Amodei menerbitkan rencana untuk pengembangan AI yang lebih hati-hati. Gagasan Nadella melengkapi diskusi itu dari sisi infrastruktur kontrol dan tata kelola teknis.
Nadella menggunakan istilah "Super Intelligence" dalam unggahannya, mengikuti preferensi pemerintahan Trump untuk menyebut AI. Pilihan istilah ini menandakan bahwa perdebatan soal keamanan AI kini juga bergerak di ranah politik dan regulasi, bukan hanya teknis.
Bagi pelaku bisnis digital dan investor startup di Indonesia, usulan ini menjadi sinyal bahwa standar keamanan AI bisa bergeser ke arah kontrol eksternal yang dapat diaudit. Startup yang membangun produk berbasis AI perlu mulai mempertimbangkan mekanisme jeda dan dokumentasi tindakan model sejak tahap desain.