Que sont les sommets sur la sécurité de l'IA ?

Les sommets sur la sécurité de l'IA sont des réunions internationales semestrielles, organisées par les États pour discuter de la sécurité et de la réglementation de l'intelligence artificielle, en particulier des systèmes d'IA avancés.

Le premier sommet sur la sécurité de l'IA a été organisé par le Royaume-Uni à Bletchley Park en novembre 2023.

Après le deuxième sommet sur la sécurité de l'IA qui s'est tenu à Séoul les 21 et 22 mai 2024, la France a été désignée pour accueillir le troisième sommet en février 2025.

Pourquoi les sommets sont-ils importants ?

Les grandes entreprises sont engagées dans une course au développement de systèmes d'IA de plus en plus avancés. Ceux-ci peuvent être utilisés à mauvais escient par des groupes malveillants, afin de mener des cyberattaques sur les infrastructures numériques ou de créer de nouvelles armes biochimiques. Ces avancées technologiques risquent également de concentrer le pouvoir au sein d'un nombre limité d'entreprises privées. L'intervention des gouvernements et la coordination internationale sont essentielles pour minimiser ces risques.

Les sommets sur la sécurité sont des opportunités indispensables pour la gouvernance de l'IA : ils permettent une coopération internationale basée sur des résultats concrets. Par exemple, l'un des objectifs du premier sommet sur la sécurité de l'IA était de développer une compréhension commune des risques posés par les systèmes d'IA avancée. En conséquence, un groupe d'experts internationaux a rédigé le Rapport international sur la sécurité de l'IA : un rapport scientifique actualisé sur la sécurité des systèmes d'IA avancée.

Quel est l'engagement du FLI dans les sommets ?

Dans la période précédant les sommets, le FLI aide les organisateurs et les autres pays participants en leur fournissant des informations essentielles sur les progrès de l'IA, ainsi que des recommandations sur la manière d'améliorer la coopération en matière de sécurité de l'IA.