Gazeta Lodz - Une cadre d'OpenAI démissionne après l'accord avec le Pentagone

"L'IA joue un rôle important dans la sécurité nationale. Mais la surveillance des Américains sans contrôle judiciaire et l'autonomie létale sans autorisation humaine sont des questions qui méritaient davantage de réflexion", a écrit sur X Caitlin Kalinowski pour expliquer son choix.

La société à l'origine de ChatGPT a obtenu un contrat avec le Pentagone en février, quelques heures après que son concurrent Anthropic ait refusé de céder à un ultimatum du gouvernement exigeant qu'elle accorde à l'armée américaine une utilisation sans restriction de Claude, son assistant IA. L'épisode avait provoqué l'ire de Donald Trump.

Le patron d'OpenAI, Sam Altman, a ensuite annoncé sur X une série de modifications de l'accord, notamment l'ajout d'une clause stipulant que les systèmes d'IA d'OpenAI ne doivent pas être utilisés "intentionnellement" à des fins de "surveillance" des citoyens américains, avait-il écrit sur X.

"C'est une question de principe, pas de personnes", a encore expliqué Caitlin Kalinowski au sujet de sa démission, ajoutant avoir "beaucoup de respect pour Sam (Altman) et l'équipe".

"Pour être claire, mon problème est que l'annonce a été faite précipitamment, sans que les garde-fous n'aient été définis", a-t-elle abondé dans un message suivant.

"C'est une question de gouvernance avant tout. Ces questions sont trop importantes pour que les accords ou les annonces soient précipités."

Mme Kalinowski a travaillé auparavant chez Meta, où elle développait les lunettes à réalité augmentée.

OpenAI élabore actuellement plusieurs produits connectés censés faciliter l'utilisation de l'IA générative au quotidien.

J.Kalinski--GL