OpenAI Menunda Peluncuran Adult Chat Akibat Masalah Akurasi Deteksi Usia

OpenAI memutuskan untuk menunda peluncuran fitur obrolan dewasa baru untuk ChatGPT, dengan alasan kekhawatiran tentang keandalan sistem verifikasi usia. Penundaan ini terjadi setelah laporan mengungkapkan bahwa mekanisme deteksi usia platform salah mengklasifikasikan sekitar 12% pengguna remaja sebagai orang dewasa, menurut temuan dari NS3.AI. Tingkat kesalahan ini menimbulkan kekhawatiran serius di kalangan pimpinan organisasi.

Kekhawatiran tentang keamanan ini secara resmi disampaikan oleh Dewan Ahli Kesejahteraan dan AI OpenAI pada bulan Januari. Dewan menekankan bahwa meluncurkan fitur seperti ini dengan keterbatasan akurasi yang ada dapat mengekspos populasi rentan terhadap konten yang tidak pantas dan potensi bahaya lainnya. Alih-alih terburu-buru meluncurkan fitur tersebut ke pasar, OpenAI memilih untuk memprioritaskan perlindungan pengguna dan melakukan penyempurnaan lebih lanjut terhadap algoritma prediksi usia.

Keputusan ini menyoroti tantangan yang dihadapi perusahaan teknologi dalam menyeimbangkan inovasi dengan pengembangan AI yang bertanggung jawab. Fitur obrolan dewasa masih dalam pengembangan, tetapi tidak akan tersedia untuk pengguna sampai perusahaan dapat menunjukkan kemampuan verifikasi usia yang lebih andal dan mengatasi kekhawatiran etis mendasar tentang akses konten dan keselamatan pengguna.