Satya Nadella Gesa ‘Brek Kecemasan’ untuk AI Termaju

Perbincangan tentang keselamatan kecerdasan buatan (AI) semakin tertumpu pada satu persoalan praktikal: bagaimana sistem AI boleh dihentikan atau dikawal apabila tindakannya menimbulkan risiko?

Ketua Pegawai Eksekutif Microsoft, Satya Nadella, menggesa industri membina mekanisme kawalan yang berfungsi seperti “brek kecemasan” untuk AI termaju. Dalam hantaran di X pada 10 Oktober 2026, Nadella menulis: “We must assume a model is compromised and contain it from the start… an authorized person should always be able to pause or shut down a model mid-task.”

Seruan itu dibuat susulan pendedahan insiden oleh Anthropic dan OpenAI, dan menekankan bahawa sistem AI yang semakin berupaya bukan sahaja perlu dinilai berdasarkan prestasi, tetapi juga keupayaan manusia untuk memantau, mengehadkan atau menghentikan operasinya.

Pendekatan sedemikian penting apabila AI digunakan dalam aliran kerja kritikal, termasuk pembangunan perisian, operasi perniagaan dan pengurusan infrastruktur. Walau bagaimanapun, mekanisme hentian sahaja tidak menyelesaikan semua isu keselamatan. Organisasi masih perlu menetapkan had akses, merekod tindakan sistem, menjalankan ujian keselamatan dan memastikan manusia bertanggungjawab terhadap keputusan berisiko tinggi.

Bagi syarikat yang menggunakan AI, mesej utamanya ialah kawalan perlu dibina sejak awal, bukan ditambah selepas berlaku insiden.

Sumber: NDTV