IA : l’un de ses pionniers quitte Google et dit “regretter” son invention

Un départ censé nous mettre en alerte. Geoffrey Hinton, surnommé “le parrain” chez Google, a annoncé qu’il quittait la firme de Mountain View la semaine dernière. Ce cacique de la multinationale, âgé de 75 ans, est considéré comme l’un des pionniers de l’intelligence artificielle. Il a notamment gagné le prix Turing, l’équivalent du prix Nobel dans le secteur de l’informatique.

Travaillant chez Google depuis plus de 10 ans, il justifie son départ par sa volonté de parler librement des dangers de l’IA. Il est l’un des 1000 signataires d’une lettre demandant un moratoire sur la recherche de l’intelligence artificielle, dans le sillon de l’explosion de ChatGPT.

Pour Geoffrey Hinton, l’IA représente effectivement un danger pour l’humanité. Jusqu’à l’année dernière, il affirmait que les “réseaux de neurones”, des systèmes permettant de s’améliorer en analysant diverses données, étaient inférieurs au langage humain. Ce n’est plus vrai, selon lui. “Peut-être que ce qu’il se passe dans ces systèmes est en réalité bien mieux que ce qu’il se passe dans un cerveau humain“, a-t-il récemment déclaré. “Regardez comment était le paysage de l’IA il y a cinq ans, et ce qu’il est devenu. Prenez cette différence, et imaginez maintenant ce qui pourra être différent dans cinq ans. C’est effrayant“, a-t-il affirmé au New York Times.

Il compare l’IA à l’arme nucléaire

L’expert pointe du doigt l’arrivée de ChatGPT dans le moteur de recherche Bing, qui appartient à Microsoft. “Les géants de la tech sont enfermés dans une compétition qui semble difficile à arrêter“. Pour rappel Geoffrey Hinton est celui qui a imaginé le “réseau de neurone”. C’est en 2012 qu’il conçoit un premier réseau neuronal, 40 ans après l’avoir imaginé. Google a racheté son entreprise 44 millions de dollars. Son système est aujourd’hui à la base de nombreuses technologies d’IA.

Il plaide pour une régulation mondiale car, “contrairement à l’arme nucléaire, il n’y a aucun moyen de savoir si des entreprises ou des pays travaillent sur cette technologie en secret“. Et regrette son travail. “Je me console avec l’excuse habituelle, si je ne l’avais pas fait, quelqu’un d’autre l’aurait fait. Il est impossible d’imaginer comment empêcher des acteurs malveillants de l’utiliser pour faire de mauvaises choses.”