Die U.S. Federal Trade Commission (FTC) hat eine Untersuchung gegen OpenAI eingeleitet, das Unternehmen, das hinter der Software für künstliche Intelligenz (AI) ChatGPT steht. In der Untersuchung wird die Möglichkeit geprüft, dass der KI-Chatbot durch das Sammeln von Daten und die Verbreitung falscher persönlicher Informationen negative Auswirkungen auf die Verbraucher gehabt haben könnte.

Die Untersuchung der FTC konzentriert sich in erster Linie auf die Frage, ob OpenAI an irreführenden oder unlauteren Praktiken im Zusammenhang mit dem Datenschutz, der Datensicherheit oder der potenziellen Schädigung der Verbraucher beteiligt war. Die Untersuchung wurde zunächst von der Washington Post berichtet und später von einem Insider bestätigt.

Die Untersuchung der FTC ist die erste bedeutende behördliche Herausforderung für OpenAI, ein führendes KI-Unternehmen, in den USA. Die Untersuchung deutet darauf hin, dass die behördliche Kontrolle wahrscheinlich zunehmen wird, wenn sich KI-Technologien bei Privatpersonen, Unternehmen und Regierungen stärker durchsetzen. Die Besorgnis über den möglichen Missbrauch von Chatbots wächst mit der rasanten Entwicklung der Technologie.

Lesen Sie auch: “US-Behörden in Alarmbereitschaft: Cyberspionage-Kampagne mit Verbindungen zu China aufgedeckt”

Der CEO von OpenAI, Sam Altman, hat bereits früher auf die Notwendigkeit einer Regulierung des wachsenden KI-Sektors hingewiesen. Im Mai sagte Altman vor dem Kongress aus, um sich für eine KI-bezogene Gesetzgebung einzusetzen. Er hat sich mit Hunderten von Gesetzgebern ausgetauscht, um für eine politische Agenda für die Technologie zu werben, und dabei das Engagement von OpenAI für Sicherheit und die Einhaltung von Gesetzen betont.

OpenAI ist auch mit internationalem Regulierungsdruck konfrontiert. Im März hat die italienische Datenschutzbehörde ChatGPT vorübergehend verboten und OpenAI vorgeworfen, unrechtmäßig personenbezogene Daten der Nutzer zu sammeln und kein System zur Altersüberprüfung zu haben, um Minderjährige vor unangemessenen Inhalten zu schützen. OpenAI erhielt einen Monat nach der Durchführung der erforderlichen Änderungen wieder Zugang zum System.

Die FTC handelt schnell im Umgang mit KI und leitete weniger als ein Jahr nach der Einführung von ChatGPT durch OpenAI eine Untersuchung ein. Die FTC-Vorsitzende Lina Khan hat sich für eine frühzeitige Regulierung von Technologien ausgesprochen, um größere öffentliche Fauxpas von Unternehmen wie die Datenschutzverletzung von Meta im Jahr 2018 zu vermeiden.

Bei einer Anhörung des Justizausschusses des Repräsentantenhauses wies Khan darauf hin, dass die Art der Daten, die in KI-Systeme wie ChatGPT eingespeist werden, nicht ausreichend kontrolliert wird, was versehentlich zur Preisgabe sensibler Informationen führen kann. Sie bekräftigte, dass neue Technologien wie KI nicht von bestehenden Gesetzen und Vorschriften ausgenommen sind.

Die Untersuchung kann OpenAI dazu zwingen, seine Methodik für die Entwicklung von ChatGPT und die Datenquellen offenzulegen, die für den Aufbau seiner KI-Systeme verwendet werden. 

Die KI-Technologie von OpenAI, ein so genanntes neuronales Netz, lernt durch die Analyse von Daten, die Erkennung von Mustern und die Anwendung dieser Erkenntnisse zur Erfüllung von Aufgaben. Allerdings können die Systeme manchmal falsche Informationen wiederholen oder Fakten falsch kombinieren, was zu Fehlinformationen führt.

Im März forderte das Center for AI and Digital Policy, eine Interessengruppe, die sich mit der ethischen Nutzung von Technologien befasst, die FTC auf, OpenAI aufgrund von Bedenken hinsichtlich Voreingenommenheit, Desinformation und Sicherheit von der Veröffentlichung kommerzieller Versionen von ChatGPT abzuhalten.

Die Untersuchung der FTC zu OpenAI kann mehrere Monate dauern, und es bleibt abzuwarten, welche Maßnahmen die Behörde ergreifen wird. FTC-Untersuchungen sind in der Regel vertraulich und beinhalten oft die Befragung von Spitzenmanagern. Ein ehemaliger Mitarbeiter erklärte, dass das technische Fachwissen, das für die Bewertung der Antworten von OpenAI erforderlich ist, eine Herausforderung für die FTC darstellen könnte.