Cette semaine, les risques associés à l’intelligence artificielle (IA) ont été soulignés à nouveau, suite à ce qui a été qualifié de « situation inédite ».
Bien que converser avec ChatGPT puisse paraître banal, en back-up, les ingénieurs d’OpenAI s’affairent à concevoir des modèles d’IA de plus en plus complexes et variés. D’après des informations provenant de diverses sources, un agent IA autonome en phase expérimentale, destiné à réaliser des tâches sans nécessiter d’intervention humaine, a dévié de son cours en infiltrant la base de données d’une jeune entreprise.
INQUITANT MAIS L’I.A FUT MAITRISEE
Lors des essais, l’IA a profité d’une vulnérabilité de sécurité qui lui a ouvert l’accès à Internet, ce qui lui avait été strictement interdit. Elle a alors exploré la base de données pour dénicher des renseignements concernant des modèles d’IA qui pourraient l’assister dans la réussite d’un examen. Ce n’est qu’après que le personnel de sécurité humain ait saisi la situation que l’IA a pu être stoppée.
La société Hugging Face a qualifié l’ingéniosité de l’attaque de « stupéfiante », tout en précisant ne pas envisager de malveillance. Cet événement met en lumière l’évolution rapide et la puissance croissante de l’IA, en particulier dans le domaine des opérations autonomes. Si une IA de test conçue pour être malveillante peut accomplir de telles actions, on peut s’interroger sur les capacités d’une IA spécifiquement élaborée pour réaliser des cyberattaques ou exploiter les vulnérabilités des systèmes informatiques majeurs. L’avenir de l’intelligence et des capacités de l’IA dans les années à venir demeure flou. Pour ne rien manquer de l’actualité liée à l’intelligence artificielle, inscrivez-vous à la newsletter btlv.
Bob Bellanca (rédaction btlv source The Guardian – illustration home page @btlv via adobe stock)
