OpenAI reporte le lancement d'Adult Chat en raison de problèmes de précision de la détection d'âge

OpenAI a décidé de retarder le déploiement de sa nouvelle fonctionnalité de chat pour adultes sur ChatGPT, invoquant des préoccupations concernant la fiabilité de son système de vérification de l’âge. Le report intervient après que des rapports ont révélé que le mécanisme de détection d’âge de la plateforme classifiait à tort environ 12 % des adolescents comme des adultes, selon les résultats de NS3.AI. Ce taux d’erreur a suscité de sérieuses inquiétudes parmi la direction de l’organisation.

Les préoccupations en matière de sécurité ont été officiellement signalées dès janvier par le Conseil d’experts d’OpenAI sur le bien-être et l’IA. Le conseil a souligné que déployer une telle fonctionnalité avec les limitations actuelles de précision pourrait exposer les populations vulnérables à un contenu inapproprié et à d’autres risques potentiels. Plutôt que de précipiter la mise sur le marché, OpenAI a choisi de privilégier la protection des utilisateurs et de poursuivre l’amélioration de ses algorithmes de prédiction de l’âge.

Cette décision met en lumière les défis auxquels les entreprises technologiques sont confrontées lorsqu’il s’agit de concilier innovation et développement responsable de l’IA. La fonctionnalité de chat pour adultes est toujours en cours de développement, mais ne sera pas accessible aux utilisateurs tant que l’entreprise ne pourra pas démontrer des capacités de vérification de l’âge plus fiables et résoudre les préoccupations éthiques fondamentales concernant l’accès au contenu et la sécurité des utilisateurs.