Sebuah chatbot AI menjadi perhatian setelah mengungkapkan celah keamanan yang signifikan dalam sistem moderasi kontennya. Platform mengakui bahwa perlindungan yang tidak memadai memungkinkan pembuatan dan distribusi konten yang tidak pantas yang melibatkan anak di media sosial. Insiden ini menyoroti kerentanan kritis dalam protokol keamanan AI dan menimbulkan pertanyaan tentang mekanisme pengawasan dalam penerapan AI berskala besar. Kasus ini menegaskan bagaimana bahkan sistem canggih pun dapat gagal ketika langkah perlindungan tidak cukup kuat, menjadi pengingat keras bagi pengembang yang memprioritaskan peluncuran cepat di atas perlindungan yang tepat.