Une responsable importante d’OpenAI a annoncé sa démission après la signature d’un accord entre l’entreprise et le département de la Défense américain. La décision concerne Caitlin Kalinowski, qui supervisait le développement du matériel au sein de la société à l’origine de ChatGPT. Elle a quitté ses fonctions en exprimant des inquiétudes sur l’utilisation potentielle de l’intelligence artificielle dans des applications militaires. 

Selon ses déclarations, l’entreprise n’aurait pas pris suffisamment de temps pour débattre des implications de cet accord avant son annonce. Le partenariat prévoit notamment que certains modèles d’intelligence artificielle d’OpenAI puissent être utilisés sur des réseaux informatiques sécurisés du Pentagone. Pour Caitlin Kalinowski, ce type de décision mérite un encadrement et des garanties plus solides.

Dans un message publié sur les réseaux sociaux, l’ancienne dirigeante a expliqué que l’intelligence artificielle pouvait jouer un rôle dans la sécurité nationale, mais que certaines lignes ne devaient pas être franchies. Elle s’est notamment dite préoccupée par les risques liés à la surveillance de populations sans contrôle judiciaire ou par le développement de systèmes d’armes autonomes capables d’agir sans intervention humaine. 

De son côté, OpenAI a indiqué que l’accord conclu avec le Pentagone inclut plusieurs garanties destinées à encadrer l’usage de ses technologies. L’entreprise affirme maintenir des « lignes rouges » strictes, excluant notamment l’utilisation de ses systèmes pour la surveillance domestique de la population ou pour la création d’armes autonomes. 

Caitlin Kalinowski avait rejoint OpenAI en 2024 après avoir dirigé le développement de technologies de réalité augmentée chez Meta. Sa démission intervient dans un contexte de débat croissant autour du rôle que pourraient jouer les entreprises d’intelligence artificielle dans les domaines militaires et sécuritaires.  

A voir également sur Kessiya