Un homme largement considéré comme le parrain de l’intelligence artificielle (IA) a quitté son emploi, mettant en garde contre les dangers croissants des développements dans le domaine.

Jeffrey Hinton, 75 ans, a annoncé sa démission de Google dans une déclaration au New York Times, affirmant qu’il regrettait désormais son travail.

Il a déclaré à la BBC que certains des risques liés au chatbot étaient « très effrayants ».

« Pour le moment, ils ne sont pas plus intelligents que nous, pour autant que je sache. Mais je pense qu’ils pourraient bientôt le devenir. »

Les recherches pionnières du Dr Hinton sur l’apprentissage en profondeur et les réseaux de neurones ont ouvert la voie aux systèmes d’IA actuels tels que ChatGPT.

Mais un psychologue cognitif et informaticien anglo-canadien a déclaré à la BBC qu’un chatbot pourrait bientôt dépasser le niveau d’informations détenu par le cerveau humain.

« Pour le moment, ce que nous constatons, c’est que des choses comme GPT-4 surpassent une personne dans la quantité de connaissances générales qu’elle possède et surpassent beaucoup une personne. En termes de raisonnement, ce n’est pas très bon, mais c’est simple. pensée.

« Et étant donné le rythme des progrès, nous nous attendons à ce que les choses s’améliorent très rapidement. Nous devons donc nous en préoccuper. »

Dans un article du New York Times, le Dr Hinton a fait référence aux « mauvais acteurs » qui essaieraient d’utiliser l’IA pour de « mauvaises choses ».

Lorsque la BBC lui a demandé de donner des détails à ce sujet, il a répondu : « Ce n’est qu’un scénario du pire des cas, un genre de scénario cauchemardesque.

« Vous pouvez imaginer, par exemple, certains mauvais acteurs comme [Russian President Vladimir] Poutine a décidé de donner aux robots la possibilité de créer leurs propres sous-cibles.

En fin de compte, cela pourrait « créer des sous-objectifs comme » je dois devenir plus puissant «  », a averti le scientifique.

Il a ajouté : « Je suis arrivé à la conclusion que le type d’intelligence que nous développons est très différent de l’intelligence que nous avons.

« Nous sommes des systèmes biologiques et ceux-ci sont des systèmes numériques. La grande différence est qu’avec les systèmes numériques, vous avez de nombreuses copies du même ensemble de poids, du même modèle du monde.

« Et tous ces clones peuvent apprendre séparément mais partager leurs connaissances instantanément. C’est comme si vous aviez 10 000 personnes et que chaque fois que quelqu’un apprend quelque chose, tout le monde le sait automatiquement. Et donc ces chatbots peuvent en savoir beaucoup plus que n’importe qui. »

Le Dr Hinton a également déclaré qu’il y avait plusieurs autres raisons de quitter son emploi.

« La première, c’est que j’ai 75 ans. Il est donc temps de prendre ma retraite. La deuxième, c’est que je veux vraiment dire du bien de Google. Ce serait plus crédible si je ne travaillais pas pour Google. »

Il a souligné qu’il ne voulait pas critiquer Google et que le géant de la technologie était « très responsable ».

Dans un communiqué, le scientifique en chef de Google, Jeff Dean, a déclaré : « Nous restons attachés à une approche responsable de l’IA. Nous apprenons constamment à comprendre les risques émergents tout en innovant avec audace. »