“OpenAI wordt geconfronteerd met FTC-onderzoek naar gegevensverzameling en privacypraktijken”.

Reading Time: ( Word Count: )

July 14, 2023
Nextdoorsec-course

De Amerikaanse Federal Trade Commission (FTC) is een onderzoek gestart naar OpenAI, het bedrijf achter de kunstmatige intelligentie (AI) software ChatGPT. Het onderzoek gaat in op de mogelijkheid dat de AI-chatbot negatieve gevolgen heeft gehad voor consumenten door gegevens te verzamelen en valse persoonlijke informatie te verspreiden.

Het onderzoek van de FTC richt zich voornamelijk op de vraag of OpenAI heeft deelgenomen aan misleidende of oneerlijke praktijken met betrekking tot privacy, gegevensbeveiliging of mogelijke schade voor de consument. Het onderzoek werd aanvankelijk gemeld door The Washington Post en later bevestigd door een insider.

Het onderzoek van de FTC markeert de eerste belangrijke Amerikaanse regelgevende uitdaging voor OpenAI, een toonaangevend AI-bedrijf. Het onderzoek geeft aan dat het toezicht door regelgevende instanties waarschijnlijk zal toenemen naarmate AI-technologieën meer ingang vinden bij individuen, bedrijven en overheden. De bezorgdheid over mogelijk misbruik van chatbots neemt toe nu de technologie zich snel ontwikkelt.

Lees ook: “Amerikaanse agentschappen op hun hoede: China-gelinkte cyberspionagecampagne ontdekt”.

OpenAI wordt geconfronteerd met FTC-onderzoek

De CEO van OpenAI, Sam Altman, heeft eerder aangegeven dat er behoefte is aan regulering binnen de groeiende AI-sector. In mei getuigde Altman voor het Congres om te pleiten voor AI-gerelateerde wetgeving. Hij heeft contact gehad met honderden wetgevers om een beleidsagenda voor de technologie te promoten, waarbij hij de nadruk legde op OpenAI’s toewijding aan veiligheid en naleving van wetten.

OpenAI heeft ook te maken gehad met internationale regeldruk. In maart verbood de Italiaanse autoriteit voor gegevensbescherming ChatGPT tijdelijk, omdat ze OpenAI beschuldigde van het onwettig verzamelen van persoonlijke gegevens van gebruikers en het ontbreken van een leeftijdscontrolesysteem om minderjarigen te beschermen tegen ongepaste inhoud. OpenAI kreeg een maand na het doorvoeren van de vereiste wijzigingen weer toegang tot het systeem.

De FTC gaat snel te werk op het gebied van AI en startte een onderzoek minder dan een jaar na de introductie van ChatGPT door OpenAI. FTC-voorzitter Lina Khan heeft gepleit voor vroegtijdige regulering van technologieën om grote publieke blunders van bedrijven te voorkomen, zoals het privacylek bij Meta in 2018.

Tijdens een hoorzitting van het House Judiciary Committee stelde Khan dat er een gebrek is aan controle op het type gegevens dat wordt ingevoerd in AI-systemen zoals ChatGPT, wat onbedoeld kan leiden tot de blootstelling van gevoelige informatie. Ze herhaalde dat nieuwe technologieën zoals AI niet zijn vrijgesteld van bestaande wet- en regelgeving.

OpenAI wordt geconfronteerd met FTC-onderzoek

Het onderzoek kan OpenAI dwingen om zijn methodologie voor het ontwikkelen van ChatGPT en de gegevensbronnen die worden gebruikt om zijn AI-systemen te bouwen, openbaar te maken. 

De AI-technologie van OpenAI, een neuraal netwerk genaamd, leert door gegevens te analyseren, patronen te identificeren en deze inzichten toe te passen om taken uit te voeren. De systemen kunnen echter soms foutieve informatie herhalen of feiten verkeerd combineren, wat leidt tot verkeerde informatie.

In maart verzocht het Center for AI and Digital Policy, een belangengroep die zich richt op ethisch technologiegebruik, de FTC om OpenAI te verbieden commerciële versies van ChatGPT uit te brengen vanwege zorgen over vooroordelen, desinformatie en beveiliging.

Het onderzoek van de FTC naar OpenAI kan enkele maanden duren en het valt nog te bezien welke acties het agentschap zou kunnen ondernemen. FTC-onderzoeken zijn meestal vertrouwelijk en omvatten vaak interviews met topmanagers van bedrijven. Een voormalig medewerker stelt dat de technische expertise die nodig is om de antwoorden van OpenAI te evalueren een uitdaging kan vormen voor de FTC.

Saher Mahmood

Saher Mahmood

Author

Saher is a cybersecurity researcher with a passion for innovative technology and AI. She explores the intersection of AI and cybersecurity to stay ahead of evolving threats.

Other interesting articles

Automated vs Manual Penetration Testing

Automated vs Manual Penetration Testing

Pentesting is largely divided into two methodologies: Automated vs Manual Penetration Testing. Both have ...
8 Steps in Penetration Testing You Should Know

8 Steps in Penetration Testing You Should Know

Mastering the art of penetration testing has become a critical ability for security experts to combat cyber ...
Spear Phishing vs Whaling: What is the Difference

Spear Phishing vs Whaling: What is the Difference

Spear phishing is a particularly devious type of phishing assault in which the individual targeted plays a ...
How Often Should Penetration Testing Be Done

How Often Should Penetration Testing Be Done

Penetration testing is a crucial technique that involves simulating a cyberattack on networks, computer systems, ...
0 Comments

Submit a Comment

Your email address will not be published. Required fields are marked *