LeCun répond en une phrase au débat sur la super-intelligence : personne ne peut contrôler l’IA

À l’instant où la communauté IA bouillonne à cause des controverses de sécurité autour du modèle Anthropic Mythos, le lauréat du prix Turing et scientifique en chef de l’IA chez Meta, Yann LeCun, a publié sur X une déclaration concise : « Personne ne sera “responsable” d’une superintelligence. » Ce tweet a recueilli 935 mentions « J’aime » et plus de 100 réponses, offrant une perspective de gouvernance radicalement différente dans l’atmosphère de panique suscitée par Mythos.

Une philosophie de gouvernance derrière une seule phrase

La déclaration de LeCun semble simple, mais elle vise en réalité une erreur de raisonnement fondamentale dans les discussions sur la gouvernance de l’IA : réduire les risques d’une superintelligence à la question de « qui contrôle ». Quand les gens discutent de la sécurité de l’IA, le récit le plus courant consiste à chercher un « responsable » — une entreprise, une agence gouvernementale ou un leader technique — pour « piloter » l’orientation du développement de l’IA. LeCun estime que cette prémisse est elle-même erronée.

Cette position est cohérente avec sa philosophie habituelle de l’IA ouverte : la gouvernance de l’IA doit être décentralisée, systémique et impliquant de multiples parties, plutôt que concentrée entre les mains d’une seule entité.

Réflexion inversée dans la controverse autour de Mythos

Le moment choisi pour ses propos est révélateur. Le même jour, Matt Shumer a qualifié le modèle Mythos d’Anthropic de « weapon on the internet », et Ethan Mollick a exprimé sa stupéfaction par « Oh no. ». La logique implicite derrière ces réactions est la suivante : une IA aussi puissante doit être strictement contrôlée, idéalement par un « gardien » responsable chargé de la gérer.

La position de LeCun est précisément l’inverse — il ne pense pas que « le fait qu’une entreprise décide de ne pas publier » soit une garantie de sécurité. Si seules quelques entreprises disposent d’une IA de niveau superintelligence et que les décisions unilatérales de ces entreprises peuvent déterminer la trajectoire mondiale du développement de l’IA, alors il s’agit en soi d’un risque. Le contrôle centralisé n’est pas synonyme de sécurité ; au contraire, il peut créer un nouveau déséquilibre des pouvoirs.

Les défis de la gouvernance décentralisée

La position de LeCun fait aussi face à des défis concrets. La gouvernance décentralisée sonne comme un idéal, mais dans la réalité où les capacités de l’IA croissent de manière exponentielle, « personne n’est responsable » peut signifier « personne ne peut être tenu responsable ». Quand un modèle peut trouver une vulnérabilité zero-day, l’accès ouvert reste-t-il vraiment la meilleure stratégie ?

C’est précisément la contradiction au cœur du débat actuel sur la gouvernance de l’IA : le risque que le contrôle centralisé soit utilisé à mauvais escient, et le risque que l’ouverture décentralisée des capacités soit utilisée à mauvais escient. La phrase de LeCun n’a pas résolu cette contradiction, mais elle oblige les gens à réexaminer si la solution intuitive consistant à « trouver quelqu’un à qui en tenir responsable » est réellement praticable.

Les enseignements pour le débat sur la gouvernance de l’IA

Entre la panique déclenchée par Mythos et la réflexion lucide de LeCun, on voit le désaccord fondamental entre deux écoles de pensée de la gouvernance de l’IA : l’école « sécurité » estime qu’il faut limiter les capacités et centraliser la gestion, tandis que l’école « ouverture » défend un accès plus large et une gouvernance décentralisée. Ce débat n’aboutira pas à une conclusion simple, mais pour les décideurs taïwanais qui s’intéressent aux politiques d’IA, comprendre la tension entre ces deux extrêmes est une tâche nécessaire pour élaborer une stratégie locale de gouvernance de l’IA.

Cet article : la réponse de LeCun en une phrase à la controverse sur la superintelligence — la première occurrence apparaît sur Chaîne d’info ABMedia.