Beritateknologi.co.id- OpenAI Mengembangkan Alat Deteksi Kecurangan Pelajar. OpenAI mengembangkan alat untuk mendeteksi kecurangan pelajar yang memakai ChatGPT dalam mengerjakan tugas mereka. Namun, saat ini belum ada informasi resmi mengenai kapan alat tersebut dirilis.
Chat GPT (Generative Pre-training Transformer) yaitu kecerdasan buatan yang cara kerjanya memakai format percakapan. Sederhananya seperti kita bertanya dengan guru di kelas, dan otomatis memperoleh jawaban dalam waktu singkat.
Baca Juga = ASUS Luncurkan Monitor Gaming ROG Swift OLED PG32UCDP
Seorang juru bicara OpenAI mengonfirmasi bahwa perusahaan sedang meneliti metode watermarking teks seperti yang dijelaskan dalam cerita di Journal, tapi mengatakan bahwa pendekatan yang diambil hati-hati mengingat kompleksitas yang terlibat dan berdampak terhadap ekosistem yang lebih luas, tidak hanya OpenAI.
“Metode watermarking teks yang kami kembangkan secara teknis menjanjikan, tetapi memiliki risiko penting yang sedang kami pertimbangkan. Termasuk di antaranya adalah kerentanan terhadap manipulasi oleh pihak yang tidak bertanggung jawab dan potensi dampak yang tidak proporsional pada kelompok seperti penutur non-Inggris,” kata juru bicara tersebut, dikutip dari Tech Crunch Senin (5/8/2024).
Pendekatan ini berbeda dari upaya sebelumnya untuk mendeteksi teks yang dihasilkan AI, yang sebagian besar tidak efektif. Bahkan, OpenAI sendiri menghentikan pendeteksi teks AI sebelumnya tahun lalu karena tingkat akurasinya yang rendah.
Dengan watermarking teks, OpenAI akan fokus hanya pada mendeteksi tulisan dari ChatGPT, bukan dari model perusahaan lain. Caranya adalah dengan membuat perubahan kecil pada cara ChatGPT memilih kata, sehingga menciptakan watermark yang tidak terlihat dalam tulisan yang nantinya dapat dideteksi oleh alat terpisah.
Baca Juga = Sektor Telekomunikasi Jadi Target Utama Serangan Siber pada 2024
