Die KI-Blase: Chance oder Gefahr für die Menschenrechte?

Wir befinden uns mitten in Zeiten der false balance, also der „falschen Ausgewogenheit“. Dies zeigt sich unter anderem am Thema KI: Immer wieder hört man Aufrufe, die Chancen der Technologie doch stärker zu nutzen, wobei implizit oft die Sichtweise vermittelt wird, dass eine Technologie, die bekanntermaßen viele Risiken birgt, doch in etwa gleich viele Chancen bieten muss. Im „vorwärts“ las man ebenfalls einen – allerdings kritisch eingeordneten – Aufruf in diese Richtung von Lea Haensen, KI nicht nur von der Seitenlinie zu beäugen, sondern auch die Chancen zu ergreifen.

KI birgt deutlich mehr Risiken als Chancen

Wir müssen uns, so mein Grundgedanke, auch in diesem Punkt wieder verstärkt das Denken in asymmetrischen Möglichkeiten erlauben. KI, wie sie derzeit überwiegend betrieben wird, weist deutlich mehr Risiken als Chancen auf. Von einem „Müssen“ der Hinwendung zur Technologie kann daher an vielen Stellen gar nicht die Rede sein.

KI ist aufgrund ihres großen Ressourcenhungers ökologisch schädlich. Die KI-Branche steckt in einer Blase aus überzogenen Erwartungen und mangelnder Profitabilität. Viele ihrer Praktiken widersprechen oder entwerten in der UN-Charta von 1948 erklärte Menschenrechte wie würdige Arbeitsbedingungen, eine Bildung, die auch der Persönlichkeitsentfaltung dient, oder Rechte an intellektuellen und künstlerischen Leistungen.

Eine große Gefahr sind außerdem menschenverachtende Ideologien, wie sie in Teilen der KI-Branche verbreitet sind. Die Erkenntnis, dass viele Behauptungen rund um die Möglichkeiten der Technologie doch Hype waren, hat auch den Blick auf andere problematische Aspekte geschärft. Kann unser Verständnis von der KI-Blase eine Chance sein, um Menschenrechte – hier auch verstanden als Recht an einer gesunden Natur – wieder verstärkt in den Blick zu rücken?

Ökologisch schädlich, ökonomisch zweifelhaft

KI ist klimaschädlich, und ihr Einsatz oft zweifelhaft. Nicht selten gibt es altbekannte technische Lösungen, die vergleichbar gute Ergebnisse bei deutlich weniger Recheneinsatz liefern. Schon das Generieren kürzerer Texte oder anderer kleinerer Inhalte mit KI verursacht intensive Rechenprozesse mit hohem Energie- und Wasserverbrauch. Zwar gibt es Bemühungen um eine klimaverträglichere KI, aber woher in diesem Lichte Hoffnungen kommen, KI könne zur Bewältigung der Klimakrise beitragen, bleibt schleierhaft.

Die großen KI-Anbieter sind unter anderem aufgrund des hohen Rechenbedarfs sehr weit davon entfernt, profitabel zu sein. Die Umstellung auf die so genannte tokenbasierte Abrechnung bei den großen generativen Sprachmodellen – also eine Abrechnung nach kleinsten maschinellen Sinneinheiten – führt zu immens hohen Rechnungen, die die tatsächlichen Entwicklungs- und Betriebskosten hinter KI erst transparent machten. Die Investitionsblase, die dahinter steht und dies verschleiert, ist gigantisch. Sie ist Symptom eines Kapitalismus, der nicht mehr weiß, wie er wachsen soll.

Abwertung menschlicher Leistung

Teil dieses Symptoms sind die Arbeitsbedingungen, unter denen die Blase entstand und aufrecht erhalten wird. Um Modelle zu trainieren, nutzten und nutzen KI-Unternehmen Klickarbeiter*innen aus, die zum Beispiel Aufgaben lösen, Texte bereinigen oder teils unter dürftigsten psychologischen Bedingungen den übelsten Bodensatz des Internets aus Trainingsdaten entfernen. Man muss es so sagen: Intelligent bei KI ist eigentlich nur das, was Menschen – überwiegend nicht Programmierer – unter anderem in solchen Arbeitsverhältnissen hinein gaben und geben.

Hochproblematisch ist außerdem, dass sich viele KI-Unternehmen nach wie vor frei an dem bedienen, was als Ergebnis menschlicher Arbeit im Internet veröffentlicht ist. Die Wahrung geistiger und materieller Interessen an intellektuellen künstlerischen Leistungen spielt in dem Zusammenhang offenbar kaum eine Rolle.

So wird Bildung und das, was sie auf dem Arbeitsmarkt leistet, nur eine Vorbereitung auf eintönige Fließbandarbeit oft ohne soziale Absicherung, und insgesamt abgewertet. Auswirkungen auf das Bildungssystem sind bereits spürbar: Beispielsweise geraten viele Studien- und Ausbildungsgänge unter Rechtfertigungsdruck. Der Blick, so der Eindruck, verengt sich zusehends auf eine Art KI-konformes Bildungswesen. Dabei werden uns Fragen wie die Gefahren des Verlernens einiger kultureller Grundfertigkeiten noch eine ganze Weile beschäftigen.

Der Schock sitzt tief in der Gesellschaft

Um ihre trotz ihrer Praktiken ausbleibende Profitabilität wie auch andere Probleme zu übertünchen, verbreiten gerade große KI-Betreiber in den USA seit Beginn des derzeitigen Hypes immer wieder Nachrichten mit so genanntem shock value, also Schockwert, mit besonders drastischen, oft Angst einflößenden Inhalten. Wie inzwischen von einigen gut eingeordnet wird, waren aber zum Beispiel jüngste Meldungen, KI würde inzwischen aus ganz eigenem Antrieb Sicherheitsschranken durchbrechen, überzogen.

Ebenso gilt dies für Prognosen, dass KI zu Massenarbeitslosigkeit führen würde. Bisherige, medienwirksame Entlassungen wurden oft unbemerkt rückgängig gemacht, weil sich die erhofften Einsparungen einfach nicht einstellen wollten. Der gesellschaftliche Schock angesichts der Entlassungsmeldungen sitzt jedoch. Selbst der Widerruf dieser Prognose quasi von höchster KI-Stelle kann und soll wahrscheinlich wenig Abhilfe schaffen.

Faschistische Fundamente

Die als Marketing eingesetzten Schockmeldungen bereiten allerdings das emotionale Fundament, um faschistoiden und faschistischen Ideologien Vorschub zu leisten, denen inzwischen einige KI-Größen, allen voran der große Trump- und Vance-Förderer Peter Thiel, anhängen. Geformt werden diese unter anderem vom Blogger Curtis Yarvin, der eine diktatorische Monarchie als einzigen Ausweg sieht, um die Demokratie abzulösen, die nach seiner Ansicht mit ihrem Kontrollwahn technologischem Fortschritt und unternehmerischem Genie nur im Weg steht.

In diesem neuen Regierungsgebilde haben sich Menschen insbesondere dem Diktat der Technologie zu unterwerfen. Wer dies nicht tut oder in diesem Spiel nicht mithalten kann, ist im wahrsten Sinne des Wortes entbehrlich: Yarvin „scherzte“ unter seinem Pseudonym „Mencius Moldbug“ sogar, solche Mitglieder der Gesellschaft könne man zu Bio-Diesel zu verarbeiten. Bekannt wurden seine Theorien als „dunkle Aufklärung“. Auch namentlich stellt sich diese Ideologie somit gegen die Aufklärung und ihre Errungenschaften.

Chancen, aber mit Augenmaß und Kompetenz

Selbst wenn man den ökologischen Fußabdruck von KI reduzieren kann und den ideologischen Teil von der Technologie getrennt betrachtet, bleibt insgesamt fraglich, inwiefern es sich bei KI wirklich um eine allumfassende Revolution handelt oder nicht doch nur um Veränderungen in bestimmten Segmenten. Lea Hensen etwa zählt in ihrem vorwärts-Beitrag als große Chance nur das häufig gebrachte Beispiel der Krebsfrüherkennung auf.

Hier wie in anderen, klar umrissenen Anwendungsbereichen sind durchaus Sprünge geschehen oder zu erwarten, insofern: Ja, es gibt diese Chancen, in den Händen von Forscher*innen, von Entwickler*innen und von erfahrenen Anwender*innen, die idealerweise mit nötigem Augenmaß und Kompetenz an ihre Sache gehen.

Wofür sich der Blick auf diese tatsächlichen Chancen aber nicht eignet, ist, daraus unspezifische Aufrufe an eine verunsicherte Allgemeinheit für „mehr KI“ zu machen: Es ist nicht Aufgabe der Allgemeinbevölkerung, ohne klar erkennbaren Nutzen für die Gewinne einer zu großen Teilen zutiefst problematischen Branche zu sorgen. Die Beweislast für den tatsächlichen Nutzen bei vertretbarem Einsatz liegt bei der KI-Branche selbst.

Menschenrechte und KI – ein schwieriges Verhältnis

Menschenverachtenden Ideologien ebenso wie menschenrechtswidrigen Praktiken, mit denen Teile der KI-Branche arbeiten, muss außerdem deutlich entgegengetreten werden. Die Liste ist dabei lang: Amnesty International etwa hat eine umfangreiche Übersicht erstellt, wie Menschenrechte derzeit durch die KI-Branche unter Druck stehen.

Es gibt dafür zahlreiche Ansatzpunkte, die an anderer Stelle schon diskutiert wurden. Es geht, wie auch schon Lea Hensen feststellt, unter anderem um ethische Leitplanken für die Entwicklung und den Einsatz der Systeme, und um das Vermeiden eines ungebremsten Ressourcenhungers. Neben plausiblen neuen Bildungsinhalten braucht es allerdings auch eine Wertschätzung für eine persönlichkeitsfördernde Bildung und intellektuelle wie künstlerische menschliche Leistungen.

Der Druck auf Menschenrechte wird durch das öffentlich vermittelte Bild einer scheinbar so intelligenten, mächtigen Maschine gestützt, womit menschliche Leistungen und das Menschsein an sich abgewertet werden können. Dieses Bild hat allerdings schon zu bröckeln begonnen. Wenn eine der Lehren aus der aktuellen KI-Blase wäre, dass Menschenrechte – inklusive eines Rechts auf eine gesunde Natur – wieder verstärkt ins Blickfeld rücken, wäre dies wahrlich nicht das schlechteste Ergebnis.