Fajarasia.id – Pengguna ChatGPT perlu semakin cermat dalam memanfaatkan kecerdasan buatan (AI) untuk membuat tulisan. OpenAI, perusahaan pengembang ChatGPT, tengah menyiapkan teknologi penanda digital atau watermark tak kasatmata yang memungkinkan teks hasil AI diidentifikasi melalui sistem pendeteksi khusus.
Langkah ini menjadi bagian dari upaya meningkatkan transparansi penggunaan AI, terutama di tengah semakin sulitnya membedakan tulisan buatan mesin dengan tulisan manusia.
Mengutip laporan Channel News Asia (CNA), OpenAI memperkenalkan teknologi penanda teks untuk keluaran ChatGPT dan Codex. Penerapan awalnya direncanakan di Uni Eropa, sejalan dengan ketentuan dalam Undang-Undang AI Uni Eropa atau EU AI Act yang mendorong konten hasil generasi AI agar dapat diidentifikasi oleh mesin.
Dalam beberapa pekan ke depan, OpenAI berencana menerapkan watermark pada keluaran teks ChatGPT dan Codex yang memenuhi persyaratan di wilayah Uni Eropa. Sementara itu, pelanggan API di berbagai negara akan memperoleh opsi untuk mengaktifkan fitur tersebut pada model tertentu.
Teknologi yang diperkenalkan OpenAI ini disebut textGrain. Sistem tersebut bekerja dengan menyisipkan sinyal statistik ke dalam pemilihan kata yang dihasilkan model AI.
Sinyal itu tidak terlihat seperti tanda air pada gambar atau video. Sebaliknya, sistem pendeteksi khusus akan menganalisis pola statistik dalam teks untuk menilai apakah tulisan tersebut kemungkinan dihasilkan menggunakan ChatGPT atau Codex.
OpenAI mengklaim pendekatan ini berpotensi menyamai, bahkan melampaui, kinerja berbagai metode pendeteksian lain yang telah diuji perusahaan.
Untuk menguji keandalannya, OpenAI mulai membuka pendaftaran akses ke perangkat pendeteksi watermark tersebut. Pada tahap awal, akses dibatasi bagi peneliti dan organisasi ahli yang telah mendapatkan persetujuan.
Meski demikian, perusahaan mengakui teknologi ini masih memiliki keterbatasan.
OpenAI menjelaskan bahwa sistem pendeteksi watermark dapat menghasilkan dua jenis kesalahan. Pertama, false positive, yakni ketika tulisan manusia dianggap memiliki watermark AI meskipun sebenarnya tidak. Kedua, false negative, yaitu ketika teks yang memiliki watermark justru tidak terdeteksi.
Tulisan yang terlalu pendek juga menjadi tantangan tersendiri karena sinyal statistik yang tersedia lebih terbatas. Selain itu, penyuntingan terhadap teks dapat melemahkan atau menghilangkan pola watermark sehingga menyulitkan proses identifikasi.
Keterbatasan lainnya, sistem ini tidak dapat menentukan seberapa besar kontribusi manusia dalam penyusunan sebuah tulisan. Teknologi tersebut juga tidak bisa memastikan siapa penulis atau pemilik teks, maupun menjamin kebenaran informasi yang terkandung di dalamnya.
Dengan demikian, keberadaan watermark tidak serta-merta menjadi ukuran kualitas, keakuratan, atau tingkat keterlibatan manusia dalam pembuatan suatu konten.
OpenAI saat ini memprioritaskan penerapan watermark teks bagi pengguna ChatGPT di Uni Eropa. Perusahaan belum mengumumkan rencana peluncuran fitur tersebut secara global.
Pendekatan bertahap ini memberi ruang bagi OpenAI untuk mengumpulkan masukan dari penggunaan nyata, sekaligus mengevaluasi efektivitas teknologi sebelum mempertimbangkan penerapan yang lebih luas.
Kebijakan tersebut juga berlangsung di tengah meningkatnya perhatian terhadap penggunaan AI dalam pendidikan, media, penelitian, dan berbagai aktivitas profesional.
Kemampuan mendeteksi teks buatan AI dinilai dapat membantu meningkatkan transparansi. Namun, karena sistem masih berpotensi melakukan kesalahan, hasil deteksi tetap perlu ditafsirkan secara hati-hati dan tidak semestinya dijadikan satu-satunya dasar untuk menuduh seseorang menggunakan AI.
Bagi pengguna, perkembangan ini menjadi pengingat bahwa AI dapat dimanfaatkan sebagai alat bantu menulis, tetapi pemeriksaan fakta, penyuntingan, dan tanggung jawab atas isi tulisan tetap berada pada manusia.***
