Christian Katzenbach zu ChatGPT und der regelbasierten Kontrolle von KI

Anlässlich des 3. Jahrestages von ChatGPT erklärt ZeMKI-Mitglied Christian Katzenbach, wie sich KI regelbasiert kontrollieren lässt.

ChatGPT im Alltag: Verschiebung von Nutzungsgewohnheiten

Seit dem Produktstart von ChatGPT vor zwei Jahren haben sich Chatbots rasant in den medialen Alltag integriert. Viele von uns nutzen diese Dienste täglich für eine Vielzahl von privaten und beruflichen Angelegenheiten. Dabei verschieben sich auch Nutzungsgewohnheiten: Informationen werden zunehmend nicht mehr in Suchmaschinen gesucht, sondern in Chatbots erfragt; Interaktionen im Chat simuliert anstatt in Social Media initiiert.

Die Macht der Tech-Konzerne: Wer entscheidet über Inhalte?

Mit dieser Verschiebung stellt sich auch eine Frage neu: Wer entscheidet eigentlich über Inhalte und ihre Relevanz? Wie gehen KI-Modelle mit kontroversen Themen um, wie reproduzieren und verbreiten sie Fehlinformationen? Und wie sehr sind sie beeinflusst von den politischen Einstellungen ihre Gründer und Entwickler? Im Unterschied zu Social Media und Suchmaschinen generieren KI-Modelle nur eine Wirklichkeit, nur eine Antwort – und es ist für Nutzer: innen schwer zu erkennen, wie verlässlich diese Antwort ist. Und für Forscher:innen ist es kaum möglich, systematisch Daten über mögliche Fehlinformationen und Verzerrungen zu erheben. Die bestehende Intransparenz im Bereich digitaler Medien wächst also weiter. Und damit die Macht der Tech-Konzerne.

Tech-Konzernen reagieren auf politische Entwicklungen und öffentliche Kritik

Gleichzeitig wissen wir von Social Media: Plattform reagieren auf politische Entwicklungen, auf öffentliche Kritik, und auf regulatorischen Druck. Gesellschaft und Politik sind also nicht machtlos. Facebook, Twitter und YouTube haben in den 2010er Jahren nach Kritik an der Verbreitung von Fehlinformationen und Hassrede immer wieder ihre Regeln für Inhalte verändert und Strukturen der Inhalte-Moderation aufgebaut.

Der aktuelle Backlash braucht robuste (EU-)Regulierung

Mit Musks Übernahme von Twitter, der zweiten Amtsperiode von Trump und der unheilvollen Allianz von US-Technologie-Konzernen und US-Regierung wird derzeit machtvoll der Rückwärtsgang eingelegt, der Backlash zum Tech-Lash. Aus dieser Perspektive wird Content Moderation (wieder) als Zensur gesehen, Fact-Checking wird beendet. Für die Unternehmen ist das nicht nur eine ideologische Frage, sondern vor allem auch eine wirtschaftliche: Content Moderation wirklich systematisch und verantwortungsvoll im großen Maßstab und global zu machen ist sehr teuer. Damit fällt die Umsetzung der neuen EU-Digital-Regulierungen in eine Zeit, in der sie stärker benötigt werden denn je – und als man sich das während der Gesetzgebung vermutlich gedacht hat. Wir kommen hier nun eine Auseinandersetzung zwischen EU und US-Akteuren, in der sich die durchaus gemeinwohlorientierte Regelsetzung auch vor dem Hintergrund neuer geopolitischer Konflikte beweisen muss.