La Commission fédérale du commerce (FTC) des États-Unis a ouvert une enquête sur OpenAI, l’entreprise à l’origine du logiciel d’intelligence artificielle (IA) ChatGPT. L’enquête examine la possibilité que le chatbot d’IA ait pu avoir un impact négatif sur les consommateurs en collectant des données et en diffusant de fausses informations personnelles.

L’examen de la FTC vise principalement à déterminer si OpenAI a participé à des pratiques trompeuses ou déloyales liées à la protection de la vie privée, à la sécurité des données ou à des préjudices potentiels pour les consommateurs. L’enquête a d’abord été rapportée par le Washington Post, puis confirmée par un initié.

L’enquête de la FTC constitue le premier défi réglementaire important lancé par les États-Unis à OpenAI, une entreprise leader dans le domaine de l’intelligence artificielle. L’enquête montre que la surveillance réglementaire va probablement s’intensifier à mesure que les technologies d’IA se répandent parmi les particuliers, les entreprises et les gouvernements. L’évolution rapide de la technologie suscite de plus en plus d’inquiétudes quant à l’utilisation potentiellement abusive des chatbots.

Lire aussi : “Les agences américaines en alerte : une campagne de cyberespionnage liée à la Chine a été mise au jour”.

Le PDG d’OpenAI, Sam Altman, a déjà exprimé la nécessité d’une réglementation dans le secteur en pleine croissance de l’IA. En mai, M. Altman a témoigné devant le Congrès pour plaider en faveur d’une législation relative à l’IA. Il a rencontré des centaines de législateurs afin de promouvoir un programme politique pour la technologie, en soulignant l’engagement d’OpenAI en faveur de la sécurité et du respect des lois.

L’OpenAI a également été confrontée à des pressions réglementaires internationales. En mars, l’autorité italienne de protection des données a temporairement interdit ChatGPT, accusant OpenAI de collecter illégalement les données personnelles des utilisateurs et de ne pas disposer d’un système de vérification de l’âge permettant de protéger les mineurs contre les contenus inappropriés. OpenAI a retrouvé l’accès au système un mois après avoir effectué les changements nécessaires.

La FTC agit rapidement dans le domaine de l’IA, en lançant une enquête moins d’un an après l’introduction de ChatGPT par OpenAI. La présidente de la FTC, Lina Khan, a plaidé en faveur d’une réglementation précoce des technologies afin d’éviter les gaffes publiques majeures des entreprises, telles que la violation de la vie privée de Meta en 2018.

Lors d’une audition de la commission judiciaire de la Chambre des représentants, M. Khan a fait valoir qu’il n’y avait pas assez de contrôles sur le type de données introduites dans les systèmes d’IA tels que ChatGPT, ce qui pourrait conduire à l’exposition d’informations sensibles par inadvertance. Elle a rappelé que les nouvelles technologies telles que l’IA ne sont pas exemptées des lois et réglementations existantes.

L’enquête peut obliger OpenAI à divulguer sa méthodologie pour développer ChatGPT et les sources de données utilisées pour construire ses systèmes d’IA. 

La technologie d’IA d’OpenAI, appelée réseau neuronal, apprend en analysant des données, en identifiant des modèles et en appliquant ces connaissances pour effectuer des tâches. Cependant, les systèmes peuvent parfois répéter des informations erronées ou combiner des faits de manière incorrecte, ce qui conduit à des informations erronées.

En mars, le Center for AI and Digital Policy, un groupe de pression axé sur l’utilisation éthique des technologies, a demandé à la FTC d’empêcher OpenAI de diffuser des versions commerciales de ChatGPT en raison de préoccupations liées à la partialité, à la désinformation et à la sécurité.

L’enquête de la FTC sur OpenAI pourrait durer plusieurs mois, et il reste à voir quelles mesures l’agence pourrait prendre. Les enquêtes de la FTC sont généralement confidentielles et impliquent souvent d’interroger des cadres supérieurs de l’entreprise. Un ancien membre du personnel déclare que l’expertise technique nécessaire pour évaluer les réponses d’OpenAI pourrait poser problème à la FTC.