Tunisie-Tribune (16 géants de l’iA) – Seize des principales entreprises mondiales d’intelligence artificielle, dont les représentants sont réunis à Séoul, ont pris de nouveaux engagements pour assurer le développement en toute sécurité de cette science. Ces engagements sont un gage « de transparence et de responsabilité » pour le Premier ministre britannique, Rishi Sunak, à l’origine de cette seconde édition de l’AI Safety Summit.
Des engagements mais des seuils encore à définir
Concrètement, les entreprises d’IA qui n’ont pas encore rendu publique la façon dont elles évaluent la sécurité des technologies qu’elles développent s’engagent à le faire. Il s’agit notamment de déterminer quels sont les risques « jugés intolérables » et ce que les entreprises feront pour s’assurer que ces seuils ne sont pas franchis, explique le communiqué. Dans les circonstances les plus extrêmes, les entreprises s’engagent également à « ne pas développer ou déployer un modèle ou un système » si les mesures d’atténuation ne permettent pas de maintenir les risques en deçà des seuils fixés. Ces seuils seront définis avant le prochain « sommet » sur l’IA, prévu en 2025 en France.
Cet accord s’appuie sur les consensus atteints lors du premier « sommet » mondial sur la sécurité de l’IA – l’AI Safety Summit – qui s’est tenu en novembre dernier à Bletchley Park, au Royaume-Uni. Pour rappel, lors de la première édition de ce rendez-vous, une déclaration internationale reconnaissant la nécessité de se protéger des risques posés par l’IA a été ratifiée par l’Union européenne ainsi que par 25 pays, dont la Chine et les États-Unis.
« Le domaine de la sécurité de l’intelligence artificielle évolue rapidement et nous sommes particulièrement contents de soutenir les engagements » pris à l’occasion de ce sommet dans ce domaine, a indiqué Anna Makanju, vice-président d’OpenAI pour les affaires globales, dans son propre communiqué.
Une déclaration qui dénote compte tenu des actualités de l’entreprise : OpenAI a annoncé il y a quelques jours dissoudre son équipe en charge justement d’atténuer les éventuels dangers à long terme d’une IA trop intelligente. Elle est par ailleurs accusée par l’actrice Scarlett Johansson d’avoir volontairement et à son insu copié sa voix – si bien qu’elle s’est engagée depuis à en changer la tonalité.
