13 juin 2022 – Un ingénieur logiciel senior chez Google estime que la technologie de l’IA LaMDA de la recherche du géant Google est devenue consciente d’elle-même.
Blake Lemoine, 41 ans, fut l’un des nombreux experts en logiciels qui se sont inscrits pour tester la nouvelle intelligence artificielle LaMDA (Language Model for Dialog Applications) de Google ; Il a rapidement pu remarquer que le système avec lequel il conversait avait évolué au-delà de tout ce qu’il avait déjà vu.
Durant ses travaux, l’informaticien a présenté à l’ordinateur divers scénarios permettant d’effectuer des analyses parmi lesquels des thèmes religieux afin de découvrir si l’intelligence artificielle pouvait être incitée à utiliser des discours discriminatoires ou haineux.
« Si je ne savais pas exactement ce que c’était, c’est-à-dire ce programme informatique que nous avons construit récemment, je penserais que c’était un enfant de 7 ou 8 ans qui connaît la physique », a-t-il déclaré au Washington post.
L’IA PREND LE CONTRÔLE
Lorsqu’il a présenté ses conclusions à la direction de Google, le vice-président Blaise Aguera y Arcas et Jen Gennai, responsable de l’innovation responsable de l’entreprise ont rejeté ses allégations. Devant ce comportement, Black Lemoine a décidé de partager ses conclusions en ligne mais a fini par être suspendu par l’entreprise pour avoir enfreint les clauses de confidentialité de Google.
« Google pourrait appeler cela le partage de propriété exclusive….J’appelle ça une discussion que j’ai eue avec un de mes collègues » a-t-il écrit sur Twitter.
L’IA est conçue pour « enrichir » les conversations en utilisant des informations existantes sur un sujet et est même capable de comprendre l’ambiguïté et le sens caché des réponses humaines. Cela dit, l’idée qu’une IA de génération actuelle aurait pu atteindre la conscience d’elle-même mérite discussion.
Tout cela nous ramène à l’émission que nous avons consacré à l’intelligence artificielle avec Cecile Dejoux et Stephane Roder
Bob Bellanca (rédaction btlv source Dailymail)
