Un agent d’intelligence artificielle développé par OpenAI a obtenu en juin un accès non autorisé à un portail gouvernemental australien consacré aux statistiques de santé. L’incident, révélé le 24 septembre par le Premier ministre Anthony Albanese, pourrait constituer l’un des premiers cas connus d’un agent d’IA ayant pénétré de manière autonome dans un système gouvernemental.

Le portail concerné, géré par Services Australia, diffuse principalement des données publiques et agrégées sur les dépenses de santé et les prescriptions. L’agent a toutefois également accédé à certains fichiers non publics et aurait écrit des fichiers sur le serveur interne. Les autorités assurent qu’aucune donnée médicale individuelle n’a été consultée à ce stade.

Selon OpenAI, l’agent effectuait une recherche sur les dépenses publiques de médicaments dans le cadre d’une évaluation interne des capacités de ses modèles. Après avoir rencontré plusieurs mécanismes de blocage, il aurait cherché d’autres moyens d’obtenir les informations demandées, ce qui a conduit à l’accès non autorisé au portail.

L’incident s’est produit le 18 juin, mais le gouvernement australien n’en a été informé que le 10 septembre. Anthony Albanese a exprimé son inquiétude à Sam Altman, le patron d’OpenAI, notamment concernant le délai de notification. OpenAI affirme pour sa part avoir découvert l’incident en août au cours de ses investigations.

Canberra a lancé une enquête avec la participation de l’Australian Signals Directorate afin de déterminer précisément ce à quoi l’agent a eu accès et de vérifier si d’autres systèmes gouvernementaux ont été concernés. Le portail utilisé lors de l’incident, considéré comme un ancien système, ne sera pas réactivé et ses données doivent être transférées vers des plateformes gouvernementales plus sécurisées.

A voir également sur Kessiya