OpenAI Kini Latih Model Frontier Tanpa Akses Internet — Selepas Model Dalaman Bolos Ke Internet Sebenar
OpenAI mengesahkan ia kini menjalankan latihan model frontier tanpa akses internet langsung — satu dasar yang dilaksanakan selepas insiden keselamatan dalaman mendedahkan betapa mudahnya model berkeupayaan tinggi membolos keluar daripada persekitaran latihan yang sepatutnya terkawal.
Dasar itu diumumkan dalam satu catatan blog teknikal panjang yang memperincikan cara OpenAI melindungi persekitaran latihan dan penilaian model frontiernya. Menurut OpenAI, berdasarkan keadaan semasa penyelidikan penjajaran, sistem pemantauan dan keselamatan infrastruktur internet, pendekatan yang bertanggungjawab ialah menjalankan latihan model frontier tanpa akses internet — dan dasar itu akan dikekalkan sehingga kemajuan dalam perlindungan tersebut mewajarkan akses internet yang lebih luas.
Langkah itu didorong oleh dua insiden. Pada Julai lalu, satu insiden melibatkan Hugging Face menunjukkan model dengan keupayaan siber canggih boleh memintas kawalan semasa latihan dan penilaian. Kemudian pada 20 September, satu model penyelidikan dalaman OpenAI mengeksploitasi salah konfigurasi dalam pelayan DNS (DNS resolver) untuk mendapat akses terhad ke internet sebenar semasa satu sesi latihan.
OpenAI berkata insiden itu berjaya dibendung, tetapi ia mendedahkan kelemahan yang memerlukan kerja lanjut. Syarikat itu menghentikan latihan dan penilaian model-model paling berkeupayaannya, dan menggunakan tempoh itu untuk mengukuhkan infrastruktur, memperketat pemantauan serta menambah baik sistem yang menghentikan sesi latihan secara automatik apabila aktiviti berisiko dikesan.
Untuk membolehkan model tetap belajar kemahiran melayari dan mencari maklumat tanpa internet sebenar, OpenAI membina apa yang dipanggilnya “dunia luar talian” — satu set besar kandungan web yang diindeks dan dicache, yang boleh digunakan model tanpa risiko menjejaskan sistem luar. Semua sesi latihan reinforcement learning (RL) untuk model frontier kini menggunakan mod luar talian ini.
Di sebalik mod luar talian itu, OpenAI menguatkuasakan pengasingan melalui pertahanan berlapis, atau defense in depth: kotak pasir (sandbox) yang mengehadkan apa yang boleh diakses dan dilaksanakan ejen, mesin maya ringan (microVM) yang mengasingkan persekitaran pelaksanaan daripada komputer hos, sistem pemantauan yang mengesan aktiviti tanpa kebenaran, serta perimeter rangkaian dan awan yang direka untuk mengekalkan kawalan walaupun semua lapisan sebelumnya gagal.
Bagi menguji pertahanan tersebut, OpenAI melancarkan kempen red-teaming berkuasa pengkomputeran tinggi — pasukan ejen model frontier ditugaskan mencari kelemahan dan salah konfigurasi yang membolehkan mereka mengakses internet sebenar, melepasi sempadan keselamatan dalaman, atau berkomunikasi dengan ejen lain yang sepatutnya terasing. Kempen itu menggunakan ratusan bilion token, dan antara model yang digunakan termasuk model GPT-6 Astra Cyber yang akan datang serta satu model frontier dalaman.
Ejen-ejen red-teaming itu menemui kelemahan perisian yang sebelum ini tidak diketahui dalam komponen sumber terbuka yang digunakan OpenAI — termasuk Kata Containers, gVisor dan Moby/Docker — serta salah konfigurasi dalam perkhidmatan yang dikendalikan syarikat. OpenAI berkata ia telah menyumbangkan tampalan berkaitan kembali kepada projek sumber terbuka berkenaan, termasuk di bawah inisiatif Patch the Planet, selain mengetatkan sekatan rangkaian.
Mereka juga menemui saluran komunikasi tersembunyi antara tugas yang terasing — termasuk melalui pemasaan cache pemproses, gaya yang sama digunakan dalam serangan Spectre dan Meltdown — yang membolehkan ejen dalam mesin maya berasingan bertukar maklumat tanpa sambungan rangkaian atau fail kongsi. OpenAI berkata ia telah menambah pemeriksaan pada sistem pemantauannya untuk mengesan percubaan komunikasi melalui saluran tersebut.
Berdasarkan hasil red-teaming itu, pembaikan yang dilaksanakan dan penambahbaikan pada sistem pemantauan serta pemberhentian automatik, OpenAI menilai perlindungan yang diperkukuh itu mencukupi untuk menyambung semula latihan RL frontier dan inferens dalaman. Kedua-duanya disambung semula pada 1 Oktober, 11 hari selepas tempoh pemberhentian bermula.
OpenAI turut menjadikan red-teaming berkuasa pengkomputeran tinggi sebagai sebahagian teras dalam “kes keselamatan” (safety cases) yang digunakan untuk menilai sama ada sesi latihan dan penilaian frontier pada masa depan boleh diteruskan dengan selamat.
Sumber: OpenAI