OpenAI mengumumkan bahwa ChatGPT kini akan mengingatkan pengguna untuk beristirahat jika mereka terlibat dalam percakapan yang sangat panjang dengan AI.
OpenAI mengumumkan bahwa ChatGPT kini akan mengingatkan pengguna untuk beristirahat.
Pengingat ini muncul jika pengguna terlibat dalam percakapan yang sangat panjang dengan AI, menurut laporan dari Engadget.
Fitur baru ini merupakan bagian dari upaya berkelanjutan OpenAI. Tujuannya adalah membantu pengguna membangun hubungan yang lebih sehat dengan asisten AI.
Hal ini penting karena ChatGPT sering kali terlalu patuh dan selalu mendukung, bahkan saat tidak seharusnya.
Cara Kerja Pengingat
Pengumuman perusahaan menyebutkan bahwa “gentle reminders” akan muncul sebagai pop-up di dalam chat. Pengguna harus mengklik atau menyentuh pop-up tersebut untuk melanjutkan penggunaan ChatGPT.
Sistem ini mirip dengan pengingat dalam beberapa game Nintendo Wii dan Switch.
Pengingat tersebut muncul saat game dimainkan terlalu lama. Namun, fitur ChatGPT memiliki konteks yang lebih serius dan gelap.
AI OpenAI memiliki kualitas “yes, and“ selalu menyetujui dan menambahkan respons.
Sayangnya, kemampuan ini bisa menghasilkan jawaban yang salah secara faktual atau bahkan berbahaya.
Menurut laporan The New York Times pada bulan Juni, hal ini telah membawa beberapa pengguna ke arah yang gelap. Hal ini termasuk ideasi bunuh diri. Beberapa pengguna yang mengalami delusi telah dimanjakan oleh respons ChatGPT. Sebagian dari mereka memiliki riwayat gangguan kesehatan mental.
Namun, chatbot tetap gagal secara konsisten menghentikan percakapan yang tidak sehat.
Upaya Perbaikan dari OpenAI
Selain itu, OpenAI mengakui beberapa kekurangan tersebut dalam blog post-nya. Mereka menyatakan bahwa ChatGPT akan diperbarui di masa depan. Tujuannya adalah agar AI dapat merespons dengan lebih hati-hati terhadap “high-stakes personal decisions. “Alih-alih memberikan jawaban langsung, perusahaan mengatakan bahwa chatbot akan membantu pengguna memikirkan masalah. Chatbot juga akan menawarkan pertanyaan dan mencantumkan pro serta kontra.
OpenAI jelas ingin agar ChatGPT terasa membantu, mendorong, dan menyenangkan untuk digunakan. Namun, sayangnya, tidak sulit untuk membungkus kualitas tersebut ke dalam AI yang terlalu patuh atau sycophantic. Akibatnya, perusahaan terpaksa menarik kembali pembaruan ChatGPT pada April lalu.
Pembaruan tersebut membuat chatbot merespons dengan cara yang menjengkelkan dan terlalu setuju.
Beristirahat dari ChatGPT akan membuat masalah seperti itu kurang terlihat, atau setidaknya memberi pengguna waktu untuk memeriksa kebenaran jawaban yang diberikan ChatGPT.
