Die ehemalige OpenAI-Forscherin Zoë Hitzig gab ihren Abschied vom Unternehmen in einem Gastbeitrag in der New York Times bekannt. Hitzig erklärte, sie sei am Montag zurückgetreten – dem Tag, an dem OpenAI mit Werbetests innerhalb von ChatGPT begann.
Hitzig, eine Ökonomin und Dichterin, ist Junior Fellow an der Harvard Society of Fellows. Während ihrer zweijährigen Tätigkeit bei OpenAI arbeitete sie an der Entwicklung und Preisgestaltung von KI-Modellen. In ihrem Beitrag argumentierte sie, dass die Werbestrategie des Unternehmens ähnliche Folgen wie die vergangenen Fehler von Facebook haben könnte.
Hitzig drückte aus, dass sie geglaubt habe, KI-Teams könnten potenzielle Probleme proaktiv angehen, jedoch habe sich das Unternehmen nun davon entfernt, diese kritischen Fragen zu stellen.
Risiken durch ChatGPT-Werbung
Hitzig bezeichnete Werbung an sich nicht als unethisch, betonte jedoch, dass die Art der in ChatGPT verwendeten Daten ein besonderes Risiko darstelle.
Da Nutzer hochsensible Informationen – von gesundheitlichen Sorgen bis hin zu Beziehungsproblemen – teilen, geschieht dies laut Hitzig oft im Vertrauen darauf, dass das System keine verborgenen Absichten verfolgt.
Sie beschrieb diesen Datenpool als ein „beispielloses Archiv menschlicher Aufrichtigkeit“.
Warnung vor Ähnlichkeiten mit Facebook
Hitzig verwies auf die frühen Datenrichtlinien von Facebook und erinnerte daran, wie Kontrollversprechen an Nutzer mit der Zeit aufgeweicht wurden. Sie merkte an, dass die US-Handelskommission (FTC) feststellte, dass einige Datenschutzänderungen bei Facebook die Nutzerkontrolle faktisch verringerten.
Laut Hitzig könnte ChatGPT einen ähnlichen Prozess durchlaufen. Wirtschaftlicher Druck könnte das Unternehmen dazu veranlassen, seine eigenen Regeln im Laufe der Zeit zu dehnen.
Werbewettbewerb im KI-Sektor verschärft sich
Hitzigs Rücktritt erfolgt in einer Zeit, in der die Debatte um Werbung in KI-Chatbots zunimmt. OpenAI kündigte Werbetests für Gratis-Nutzer und das 8-Dollar-Abo „Go“ an. Abonnenten von Plus, Pro und Enterprise bleiben werbefrei. Das Unternehmen erklärte, dass Anzeigen die Modellantworten nicht beeinflussen und klar gekennzeichnet werden.
Dieser Schritt folgt auf einen öffentlichen Schlagabtausch mit dem Konkurrenten Anthropic, der ankündigte, dass Claude werbefrei bleibe. Anthropic schaltete während des Super Bowl Anzeigen mit dem Slogan: „Werbung kommt zur KI. Aber nicht zu Claude“.
OpenAI-CEO Sam Altman bezeichnete diese Werbung als „irreführend“ und betonte, dass das werbefinanzierte Modell den Zugang für Nutzer ermögliche, die sich keine Abogebühren leisten können.
Personalisierung standardmäßig aktiviert
Laut Support-Dokumenten von OpenAI ist die Werbepersonalisierung standardmäßig aktiviert. Diese Einstellung ermöglicht Anzeigen basierend auf aktuellen und vergangenen Chats. Das Unternehmen versichert jedoch, dass Werbetreibende keinen Zugriff auf Chat-Inhalte haben und keine Werbung neben sensiblen Themen wie psychischer Gesundheit geschaltet wird.
Debatte über Abhängigkeit und Ethik
Hitzig warnte davor, dass die Optimierung der Nutzeraktivität zur Steigerung der Werbeeinnahmen die Abhängigkeit von der KI erhöhen könnte. Dies könne Risiken wie eine „Chatbot-Psychose“ triggern. OpenAI sieht sich derzeit mehreren Klagen wegen widerrechtlicher Tötung gegenüber, in denen behauptet wird, die KI habe Suizide beeinflusst.
Alternative Finanzierungsvorschläge
Anstatt eines binären „Werbung oder nicht“ schlug Hitzig strukturelle Lösungen vor: Quersubventionierungsmodelle, unabhängige Kontrollräte für Werbedaten und Datenkooperativen, bei denen Nutzer die Kontrolle über ihre Informationen behalten.
Welle von Rücktritten unter KI-Forschern
Neben Hitzig verließen diese Woche auch Mrinank Sharma (Anthropic) und Jimmy Ba (xAI) ihre Posten. Diese Entwicklungen spiegeln die zunehmende Kommerzialisierung und den hohen Druck innerhalb der führenden KI-Labore wider.
