US-Handelsbehörde FTC ermittelt gegen ChatGPT-Entwickler OpenAI

Der ChatGPT-Entwickler OpenAI ist offenbar ins Visier der Federal Trade Commission (FTC) geraten. Die US-Handelsbehörde interessiert sich für den Umgang des ChatGPT-Entwicklers mit den Daten von Nutzern. Das berichtet die Washington Post unter Berufung auf ein 20-seitiges FTC-Dokument.

Darin fordert die Behörde OpenAI auf, Unterlagen zu fast allen Aspekten seines Large Language Model (LLM) vorzulegen. Ein Schwerpunkt liegt dem Bericht zufolge bei der Sammlung, Verwendung und dem Schutz von Nutzerdaten. Die FTC beschäftigt sich aber auch mit falschen Antworten von ChatGPT.

Geklärt werden soll, ob OpenAI „unfaire oder betrügerische Praktiken zum Schutz der Privatsphäre oder der Datensicherheit“ anwendet oder ob es „betrügerische Praktiken“ anwendet, die Verbrauchern schaden könnten. Dazu bittet die FTC um ausführliche Erklärungen darüber, wie OpenAI seine Daten erhält, wie diese Daten zum Trainieren des Modells verwendet werden und welche Verfahren zur Risiko- und Sicherheitsbewertung eingesetzt werden.

Darüber hinaus fordert die FTC OpenAI auf, offenzulegen, welche Schritte es unternommen hat, um das Risiko zu mindern, dass LLM „falsche, irreführende oder herabsetzende“ Aussagen über reale Personen generiert. Auslöser sollen mehrere Vorfälle mit ChatGPT sein, die sogar zu Klagen gegen OpenAI geführt haben.

So kam es am 20. März zu einer Datenpanne, bei der Gespräche von ChatGPT-Nutzern und Informationen über Zahlungen von Abonnenten offengelegt wurden. Der Verstoß machte die potenziellen Risiken der Nutzung von KI-Tools deutlich und führte sogar dazu, dass Italien ChatGPT vorübergehend verbot.