OpenAI Akan Tambah Tera Air Halimunan Pada Teks ChatGPT Dan Codex Di EU

OpenAI memperkenalkan textGrain, sistem tera air halimunan untuk membantu mengenal pasti teks yang dijana menggunakan model AI syarikat itu.

Mulai 5 Oktober, pelanggan API di seluruh dunia boleh memilih untuk mengaktifkan tera air ini pada model yang disokong. Ia tidak diaktifkan secara lalai.

Untuk pengguna ChatGPT dan Codex di Kesatuan Eropah pula, OpenAI berkata output teks yang layak akan mula menerima tera air secara berperingkat dalam beberapa minggu akan datang. Ini bermakna ia bukan perubahan yang terus aktif kepada semua pengguna pada hari pengumuman.

Berbeza daripada watermark yang kelihatan atau metadata tersembunyi, textGrain memasukkan isyarat statistik melalui corak pemilihan perkataan ketika model menjana teks. Pengesan khusus kemudian boleh mencari corak tersebut.

OpenAI turut mengingatkan sistem ini mempunyai batasan. Teks yang pendek, format yang sangat terhad atau kandungan yang banyak disunting boleh menjadi lebih sukar untuk dikenal pasti. Ketiadaan isyarat textGrain juga tidak membuktikan sesuatu teks ditulis manusia.

Pada peringkat awal, akses kepada pengesan textGrain akan diberikan kepada penyelidik dan organisasi pakar yang diluluskan. OpenAI turut merancang membuka teknologi ini supaya boleh dikaji dengan lebih meluas.