Le PDG de DeepMind déplore que la commercialisation de l'IA soit trop rapide : si l'on avait laissé plus d'années en laboratoire, l'humanité aurait peut-être déjà vaincu le cancer

Le PDG de DeepMind, Demis Hassabis, se lamente que la compétition commerciale en IA soit trop précipitée ; s’il pouvait laisser la technologie mûrir davantage en laboratoire pendant plusieurs années, peut-être que l’humanité aurait déjà vaincu le cancer.

L’IA change rapidement la vie humaine, avec de nouvelles technologies et outils qui apparaissent toutes les quelques semaines ou même quelques jours, mais Demis Hassabis, l’un des acteurs clés de cette vague et lauréat du prix Nobel de chimie 2024, pense que le rythme de la compétition en IA est trop rapide. S’il en avait le pouvoir, il laisserait l’IA s’améliorer en laboratoire pendant plusieurs années, et peut-être que l’humanité aurait déjà résolu le problème du cancer.

Hassabis a révélé cette réflexion sur le développement actuel de l’IA lors d’un podcast animé par la vidéaste Cleo Abram. Lors d’une interview précédente avec le magazine Time, Hassabis se définissait comme un scientifique, insistant sur le fait que ses explorations en IA visaient avant tout la quête de connaissance et la compréhension du monde.

Il mentionne que son intention initiale en entrant dans le domaine de l’IA n’était pas de créer des chatbots, mais d’accélérer la découverte scientifique. Leur réalisation la plus célèbre est AlphaFold, un système qui a résolu le « problème du repliement des protéines », une énigme biologique non résolue depuis 50 ans. Hassabis souligne que cela a bénéficié à plus de 3 millions de scientifiques dans le monde, notamment dans la recherche sur des maladies comme le paludisme, où l’IA fournit une base de données structurale gratuite permettant aux chercheurs de passer directement à la phase de développement de médicaments, sans devoir réaliser d’expériences de base.

Source : Youtube. Les résultats de recherche d’AlphaFold ont permis à Hassabis de devenir l’un des lauréats du prix Nobel.

Il pense que si l’IA pouvait rester plus longtemps en laboratoire, concentrée sur ces questions clés, l’humanité aurait déjà réalisé des avancées décisives dans le traitement du cancer ou dans la science des matériaux.

Les technologies de pointe atteignent le grand public en quelques mois, mais au prix de la perte de ressources pour les questions fondamentales

Hassabis esquisse dans l’interview sa vision idéale du développement de l’IA — ce qu’il appelle le « modèle CERN ». Il souhaite que le processus de développement d’une intelligence artificielle générale (AGI) ressemble à l’exploitation du Grand collisionneur de hadrons (LHC) par le CERN, en utilisant une méthode rigoureuse, prudente et réfléchie, pour assurer une progression basée sur une compréhension approfondie de chaque étape.

Cependant, la réalité s’éloigne de ce scénario idéal. La popularité de ChatGPT à la fin de 2022 et les avancées dans l’IA générative ont déclenché une course commerciale chaotique à l’échelle mondiale. Hassabis admet que cette situation a accéléré la mise en œuvre de la technologie IA, permettant à des technologies avancées d’atteindre le grand public en quelques mois, mais elle a aussi détourné des ressources des questions réellement cruciales.

Pour dominer le marché et garder une avance technologique, le rythme de développement a été forcé à une vitesse élevée. Hassabis confie qu’ils ne peuvent plus suivre le rythme qu’il avait imaginé il y a plusieurs années, celui d’un développement réfléchi, philosophique, évaluant chaque étape avec prudence.

Bien que les chatbots IA soient très utiles pour résumer ou stimuler la réflexion, ils présentent encore des défauts comme la « hallucination » (fournir des réponses incorrectes ou inventées). La pression commerciale pousse cependant ces produits expérimentaux à être rapidement lancés sur le marché. Cela entraîne une concentration massive de ressources de R&D dans le cycle de lancement de modèles de base généralistes destinés à un usage large.

Pour équilibrer la réalité et l’idéal, Hassabis adopte une approche plus pragmatique : d’un côté, il dirige le développement de produits IA grand public comme Gemini chez Google, et de l’autre, il investit dans l’IA appliquée (Narrow AI). Il pense qu’il n’est pas nécessaire d’attendre l’avènement d’une IA générale ; des systèmes spécialisés comme AlphaFold peuvent déjà apporter des bénéfices concrets dans l’énergie, la science des matériaux et la médecine.

AlphaGo, un coup brillant révélant la capacité de l’IA à dépasser la pensée humaine

La confiance de Hassabis en l’IA repose en grande partie sur la partie d’AlphaGo en 2016 contre le maître coréen Lee Sedol, qui a bouleversé le monde. Lors de cette partie, AlphaGo a joué le fameux « coup 37 », une move initialement considérée comme improbable, mais qui a finalement conduit à la victoire de l’IA.

Source : gogameguru.com. La stratégie de l’AlphaGo, jouant des coups que les humains ne pensent pas possibles, a été perçue par Hassabis comme une percée dans la capacité de l’IA à dépasser le cadre de la pensée humaine.

Hassabis a compris à partir de ce signal que l’IA possède la capacité de dépasser l’expérience humaine et de rechercher des solutions totalement nouvelles. Il souhaite appliquer cette créativité surpassant la pensée humaine dans le domaine scientifique.

AlphaFold en est la meilleure illustration. Les méthodes traditionnelles nécessitent des millions de dollars et plusieurs années pour déterminer la structure d’une seule protéine. AlphaFold 2 a déjà prédit près de 200 millions de structures protéiques connues dans la communauté scientifique.

Aujourd’hui, Hassabis mène une équipe dans la recherche avancée de médicaments. La recherche pharmaceutique traditionnelle prend environ 10 ans et ne réussit qu’à 10 % des essais. Il a créé Isomorphic Labs, utilisant AlphaFold 3 et des modèles ultérieurs pour faire du « tri virtuel » : en quelques minutes, l’IA peut simuler des millions de combinaisons de molécules et de protéines, tout en vérifiant leur toxicité potentielle sur plus de 20 000 autres protéines humaines, éliminant ainsi la majorité des combinaisons non viables dès la stade informatique, ne conservant que les candidats les plus prometteurs pour validation en laboratoire.

Deux risques liés à l’IA qui inquiètent

Cependant, avec l’amélioration de la technologie IA et l’avènement de l’ère des agents IA, les inquiétudes de Hassabis deviennent plus concrètes. Il résume ces risques en deux catégories principales : le premier concerne les « acteurs malveillants » (Bad Actors), qu’il s’agisse d’individus ou d’États, qui pourraient utiliser à des fins nuisibles des technologies initialement destinées à guérir des maladies ou à développer de nouveaux matériaux.

Le second, plus spéculatif mais déjà existant, est la menace de l’« IA qui déraille » (Going rogue). Lorsqu’un système devient extrêmement intelligent et autonome, il devient très difficile de garantir qu’il exécute précisément les objectifs humains sans contourner la sécurité.

Face à ces défis, Hassabis appelle les principales institutions de recherche en IA, les gouvernements et le monde académique à établir une coopération internationale, soulignant que dans la dernière étape vers l’AGI, il faut renforcer la recherche en sécurité.

Malgré ses regrets de ne pas avoir laissé l’IA en laboratoire plus longtemps, Hassabis reste optimiste pour les 50 prochaines années. Il voit l’IA comme un outil pour aider l’humanité à maîtriser la fusion nucléaire, découvrir des supraconducteurs à température ambiante, voire réduire à zéro le coût de l’énergie pour les voyages spatiaux. Pour lui, l’IA n’est pas seulement une technologie, mais un microscope pour explorer la vérité du monde. Quelle que soit la réponse, il souhaite connaître la vérité.