Début du contenu principal.
L'intelligence artificielle augmente le risque d'extinction de l’humanité, alertent des experts
«La réduction du risque d'extinction lié à l'IA devrait être une priorité mondiale.»
Des scientifiques et des dirigeants de l'industrie technologique, y compris des cadres supérieurs de Microsoft et de Google, ont lancé un nouvel avertissement mardi concernant les dangers de l'intelligence artificielle (IA) pour l'humanité.
«La réduction du risque d'extinction lié à l'IA devrait être une priorité mondiale, tout comme les autres risques à l'échelle de la société tels que les pandémies et les guerres nucléaires», indique la déclaration publiée en ligne.
Sam Altman, PDG d'OpenAI, la société mère de ChatGPT, et Geoffrey Hinton, un informaticien reconnu comme le père fondateur de l'IA, figuraient parmi les centaines de personnalités influentes ayant signé la déclaration, qui a été publiée sur le site web du Center for AI Safety.
Les inquiétudes concernant les systèmes d'IA qui surpassent les humains et deviennent incontrôlables se sont intensifiées avec l'avènement d'une nouvelle génération d'agents conversationnels d'IA extrêmement performants, tels que ChatGPT.
Le dernier avertissement était délibérément succinct, se limitant à une seule phrase, afin d'englober une vaste coalition de scientifiques qui pourraient ne pas être d'accord sur les risques les plus probables ou sur les meilleures solutions pour les prévenir, a déclaré Dan Hendrycks, directeur exécutif du Center for AI Safety basé à San Francisco.
«Il y a des personnes issues de divers domaines et des meilleures universités qui sont préoccupées par cette question et estiment qu'il s'agit d'une priorité mondiale», a déclaré Hendrycks. «Nous devions inciter les gens à sortir du placard, pour ainsi dire, sur cette question, car beaucoup d'entre eux en parlaient silencieusement entre eux.»
Plus de 1000 chercheurs et technologues, dont Elon Musk, ont signé une lettre beaucoup plus longue plus tôt cette année, demandant une pause de six mois dans le développement de l'intelligence artificielle, car, selon eux, cela pose «des risques profonds pour la société et l'humanité».
Les pays du monde entier s'efforcent de mettre en place des réglementations pour cette technologie en développement, l'Union européenne étant à la pointe avec son projet de loi sur l'intelligence artificielle qui devrait être approuvé plus tard cette année.