Seoul Gazette - A Dublin, Européens et patrons de la tech appellent au sursaut pour rendre l'IA sûre

Les pertes de contrôle d'agents d'IA autonomes observées ces derniers mois "sont en quelque sorte des signaux d'alerte avancés", a prévenu le président de Google DeepMind, Demis Hassabis, l'une des stars de cet événement organisé par la présidence irlandaise de l'UE.

"Ces systèmes ne sont pas encore très puissants, donc les incidents ne sont pas majeurs, mais ils pourraient l'être d'ici un à deux ans si nous n'accentuons pas les efforts" en matière de sécurité, a lancé le prix Nobel de Chimie et pionnier de la recherche sur l'IA.

- Coupe-circuits -

Une préoccupation partagée par le président de Microsoft Brad Smith, autre figure de la tech invitée à Dublin. Le responsable a défendu l'idée de doter les agents et systèmes d'IA de "freins d'urgence", des coupe-circuits obligatoires qui permettraient aux utilisateurs de limiter les dégâts en cas de perte de contrôle.

"L'idée, en particulier pour les IA qui gèrent des infrastructures critiques ou des systèmes automatisés, c'est d'avoir la possibilité de les éteindre ou de les ralentir", a-t-il expliqué à un groupe de journalistes, en amont du sommet.

Pour Brad Smith, le problème est que l'IA n'est pratiquement pas régulée, contrairement à un objet aussi banal qu'une brique de lait, sujette à toutes sortes de contrôles.

"Nous allons avoir besoin pour l'IA, comme pour tout le reste dans nos vies (...), de normes de sécurité réelles et effectives, dans lesquelles le public pourra avoir confiance", a-t-il argumenté.

De son côté, la vice-présidente de la Commission européenne Henna Virkkunen a dénoncé une course à la vitesse au sein du secteur, au détriment de la sécurité.

- "Bon équilibre" -

"Nous constatons une concurrence mondiale si féroce que les entreprises ne semblent pas consacrer suffisamment de temps et de ressources à tester réellement leurs modèles", a-t-elle déclaré, soulignant que les incidents récents montraient "que les entreprises ne sont pas toujours conscientes des actions entreprises par leurs agents".

"Elles doivent être capables de garder la maîtrise de ces systèmes", a-t-elle martelé, rappelant que c'était une "exigence" au sein de l'UE, en vertu de sa loi pionnière sur l'intelligence artificielle, l'AI Act.

C'est pourquoi Bruxelles a "adressé une demande d'informations aux principales entreprises du secteur, les interrogeant sur les mesures de sûreté et de sécurité en place ainsi que sur les procédures d'évaluation externe", a-t-elle rappelé.

Mais la directrice financière d'OpenAI, Sarah Friar, tout en disant partager les appels à renforcer la sécurité, a souligné qu'il ne fallait pas pour autant paralyser le secteur, qui risquerait alors d'être pris de vitesse par des acteurs mal intentionnés. Elle a plaidé pour un "bon équilibre" entre innovation et régulation.

"Nous voulons être ouverts et permettre aux bonnes personnes d'évaluer nos modèles, mais nous devons nous assurer que cela ne nous ralentisse pas à un tel point que nous serions en retard technologique" par rapport à ces acteurs malveillants, a expliqué Mme Friar.

O.Na--SG