Bistum

„Digitaler Kolonialismus“ – die Schattenseite von KI und Social Media

Der Vatikan warnte vor einem Jahr vor Ungerechtigkeit, Machtkonzentration und der Ausbeutung von Menschen bei der Entwicklung und Anwendung von Künstlicher Intelligenz. Ein neues Buch zeigt die Folgen des digitalen Kolonialismus sowie Ansätze für eine gerechtere Digitalisierung auf.
Banane, Flasche und Pflanze für die Datenerfassung von KI

Was hat die Banane mit Künstlicher Intelligenz (KI) zu tun? Mehr, als man auf den ersten Blick vermuten würde. Dieses Bild des deutschen Künstlers Max Gruber zeigt, was auf den Bildschirmen von „Clickworkern“, also Billiglohnarbeitenden erscheint, die Bildelemente mit Schlüsselwörtern versehen, um Datenbanken zu füllen. Zur Verfügung gestellt wird es von Better Images of AI, einem Forscherkollektiv, das sich für realistischere Darstellungen von KI und für die Sichtbarmachung der Menschen hinter der Technologie einsetzt. Ziel ist es, sich von science-fictionhaften oder gar religiös aufgeladenen Bildwelten zu distanzieren.

Das Bild einer Banane gehört sicher zu den harmloseren Motiven, die Datenarbeitende hinter der KI zu Gesicht bekommen. Nicht zufällig erinnert es jedoch an ein Phänomen, das 500 Jahre alt ist und im digitalen Zeitalter in neuem Gewand erscheint: den Kolonialismus. Darüber haben der Tech-Journalist Ingo Dachwitz von netzpolitik.org und der Digitalisierungsexperte Sven Hilbig von Brot für die Welt ein Buch geschrieben: „Digitaler Kolonialismus – Wie Tech-Konzerne und Großmächte die Welt unter sich aufteilen“.

Auf 350 Seiten entmythisieren sie die Heilsversprechen der „digitalen Revolution“ und blicken hinter die Hochglanzfassade der weltweit führenden Tech-Konzerne. Sie zeigen, wie der „digitale Neo-Kolonialismus“ durch seinen unersättlichen Hunger nach Daten, Rohstoffen und Energie Umweltschäden verursacht, alte Machstrukturen fortschreibt und billige Arbeitskräfte im Globalen Süden ausbeutet. Besonders bedrückend sind die Schilderungen von Menschen, die KI trainieren und Social Media moderieren.

„Die Digitalisierung kommt als immaterieller, körperloser Prozess daher, doch sie beruht oft auf materiellen Abhängigkeits- und Ausbeutungsverhältnissen. Statt physisches Land einzunehmen, erobern die neuen Kolonialherren den digitalen Raum“, heißt es bereits in der Einleitung. Das Buch macht deutlich: Die digitale Welt basiert auf harter Arbeit. Eine unsichtbare Armee an Datenarbeiterinnen und -arbeitern – auch „Geisterarbeiterinnen und -arbeiter“ oder „Clickworker“ genannt – schuftet im Globalen Süden für das Funktionieren von KI. Sie sortieren Daten, trainieren Algorithmen und moderieren Inhalte. Um eine Größenordnung zu verdeutlichen: ChatGPT-4 wurde mit etwa 500 Millionen Seiten ausgedruckten Textes trainiert. Damit ein Sprachmodell weiß, was eine Katze ist, müssen Millionen Bilder entsprechend beschriftet werden. Den Maschinen wird nicht nur beigebracht, relevante Ergebnisse zu liefern, sondern auch, was sie nicht zeigen sollen, etwa Anstößiges, Verletzendes oder Gewalttätiges.

Die „Müllabfuhr der sozialen Medien“

Damit Mordaufrufe, Holocaustleugnung oder grafisches Material von Hinrichtungen und Vergewaltigungen nicht online bleiben, gibt es Content-Moderatorinnen und -Moderatoren. Sie entfernen Hassrede, Pornografie und extreme Gewalt von Facebook, Instagram oder TikTok. Das Buch erzählt von Menschen, die „für ChatGPT in die Hölle schauen“, nahezu wie Maschinen arbeiten und mit den dabei erlittenen seelischen Schäden alleingelassen werden. Jede und jeder Mitarbeitende moderiere 600 bis 700 Tickets mit potenziell traumatisierendem Inhalt pro Tag. Was die wenigsten wissen: Selbst die Google-Suche kommt nicht ohne menschliche Unterstützung aus. Das Unternehmen beschäftige über Outsourcing-Dienstleister inzwischen rund 16.000 sogenannte „Suchmaschinenqualitätsbewerterinnen und -bewerter“. Meta, der Mutterkonzern von Facebook, Instagram und WhatsApp, beschäftigt nach eigenen Angaben etwa 15.000 Moderatorinnen und Moderatoren.

Es sind Menschen wie Nathan Nkunzimana, ein junger Christ aus Burundi. Zwei Jahre lang filterte er für einen Dienstleister in Kenia hasserfüllte und pornografische Inhalte aus Facebook und Instagram. Diese Arbeit wird oft als „Müllabfuhr der sozialen Medien“ oder „Putzcrew des Internets“ bezeichnet. Nathan versteht sie als Einsatz für eine gute Sache: „Wir sind da, um die Plattform zu bewachen. Um sie sicher zu machen, rund um die Uhr. Wie ein Soldat, der aufpasst, während die Gemeinschaft schläft. Wir ermöglichen, dass die Menschen sich weiterhin frei in den sozialen Medien bewegen und sich wohl fühlen können.“

Auf den ersten Blick schafft Digitalisierung also Arbeitsplätze. Die Frage ist jedoch: welche und wo. Die „Geisterarbeitenden“ im Globalen Süden haben kaum Rechte nach europäischen Standards, ihre Arbeit ist schlecht bezahlt. „Wer zwei Dollar die Stunde verdient, kann sich glücklich schätzen“, zitiert das Buch Adio Dimika, der die Arbeitsdynamik der KI-getriebenen Wirtschaft unter anderem in Kenia, Südafrika und Ruanda erforscht.

„Daten sind das neue Öl“

Noch günstiger als klassisches Tech-Outsourcing seien Crowd- oder Mikrowork-Plattformen, die Tagelöhnerinnen und Tagelöhner des digitalen Zeitalters anlocken. „Mittlerweile konkurrieren Millionen Menschen aus aller Welt auf diesen Plattformen um Mikroaufträge. Unternehmen nutzen die weltweite Konkurrenz, um ihre Kosten zu senken“, berichten Dachwitz und Hilbig. Zuverlässige Zahlen zu diesem Arbeitssektor gebe es nicht. Die Weltbank schätzte 2023 die Zahl der Tech-Geistesarbeiterinnen und -arbeiter auf 154 bis 435 Millionen.

Warum Menschen – häufig Hochschulabsolventinnen und -absolventen – diese belastende und schlecht bezahlte Arbeit annehmen, erklären die Autoren so: 

Während es im Kolonialismus physische Gewalt war, mit der die Kolonisatoren Menschen zu Sklaven machten, sind es heute Hunger, Armut und Arbeitslosigkeit, die die Menschen in die Hände der Outsourcing-Firmen treiben.“ 

Auch in Deutschland arbeiten laut Verdi etwa 5.000 Content-Moderatorinnen und -Moderatoren für soziale Netzwerke, vor allem Arbeitsmigrantinnen, -migranten und Geflüchtete. Sie verdienen immerhin den Mindestlohn.

Ebenso informativ wie das Kapitel „Arbeitskraft“ sind die weiteren Kapitel zu „Daten“, „Rohstoffen“, „Repression“ und „Geopolitik“, in denen die Autoren eine „koloniale Kontinuität“ aufzeigen. „Daten sind das neue Öl“, heißt es im Buch. Sie bilden das Fundament der Tech-Imperien. „Daten und Profite fließen nur in eine Richtung – aus dem Globalen Süden in den Globalen Norden.“ Die Autoren sprechen von „Datenextraktivismus“ und „Datenkolonialismus“, bei dem alle Menschen vor Big Tech gleich seien: „durchleuchtet und entrechtet“.

Gegen diese Entwicklung regt sich Widerstand. Länder wie Nigeria, Indien und Südafrika versuchen mit Gesetzen nach EU-Vorbild ihre Datensouveränität zu sichern, indem sie Daten im eigenen Land speichern. Kritisch setzen sich Dachwitz und Hilbig zudem mit der Konzentration globaler Dateninfrastruktur – etwa Unterseekabeln und Satelliten – in den Händen weniger privater Akteure auseinander. Sie analysieren auch ökologische Folgen des digitalen Wandels, etwa Rohstoffabbau und Biodiversitätsverlust. „Wer verstehen möchte, auf welchen Schultern der digitale Fortschritt ruht, muss etwas vom Alltag der Menschen erfahren, die in den Minen nach Kobalt schürfen“, schreiben sie. Der unstillbare Hunger nach Speicher- und Rechenleistung mache den KI-Boom zu einem erheblichen Klimaproblem. Einer im Buch zitierten US-Studie zufolge verbraucht die Generierung eines einzigen Bildes mit einem großen KI-Modell etwa so viel Energie wie das vollständige Aufladen eines Smartphones.

Europas „Dritter Weg“

Das letzte Kapitel widmet sich Europas „Drittem Weg“ der Digitalisierung, einem Versuch, zwischen dem libertären Tech-Kapitalismus der USA und dem autoritären Modell Chinas zu vermitteln. „Es ist ein Versuch, Werte und Wertschöpfung zusammenzubringen“, schreiben die Autoren. Konzerne sollen nicht allein die Regeln diktieren, zugleich soll Freiheit nicht unter staatlicher Kontrolle leiden. Einen wichtigen Schritt ging die EU 2016 mit der Datenschutzgrundverordnung (DSGVO). 2023 folgte der Digital Markets Act (DMA), 2024 der Digital Services Act (DSA). Ziel ist es, Bürgerinnen und Bürger zu schützen und zugleich die europäische Digitalwirtschaft zu stärken. Dass diese Ziele schwer vereinbar sind, zeige laut Dachwitz und Hilbig die erste umfassende KI-Regulierung der EU. Sie solle Risiken minimieren und zugleich Innovation ermöglichen, sei bei Verboten jedoch zu lasch und nütze letztlich großen US-Konzernen. Der „Dritte Weg“ könne seine Versprechen daher bislang nicht ganz einlösen, dennoch sei Europa in Sachen Digitalregulierung „die“ Großmacht.

Das sorgfältig recherchierte und engagierte Buch verteufelt weder Digitalisierung noch KI. Es ist ein Weckruf, fordert einen differenzierten Blick und warnt vor Fehlentwicklungen. Seine besondere Stärke ist, dass zahlreiche Forschende, Arbeitende, Nichtregierungsorganisationen sowie Aktivistinnen und Aktivisten aus dem Globalen Süden zu Wort kommen. Das Nachwort „Wider den digitalen Kolonialismus: Eine Zukunft ohne Big Tech liegt näher, als wir denken“ stammt von der guatemaltekischen Menschenrechtsanwältin und Vorsitzenden der Open Knowledge Foundation, Renata Ávila Pinto. In zehn Schritten entwirft sie ein Szenario für eine Welt ohne digitalen Kolonialismus. Sie plädiert für eine dezentrale, gemeinwohlorientierte Tech-Governance, für Kooperativen statt Tech-Giganten und für demokratische Entscheidungsprozesse statt intransparenter Vorstandsetagen.

Kirche und KI

Einen gemeinwohlorientierten Ansatz bei der Künstlichen Intelligenz fordert auch die Kirche, die sich gegenüber der Technologie durchaus offen zeigt. Mit Magisterium AI, in Kanada entwickelt von einem ehemaligen Seminaristen, gibt es einen Chatbot, der Fragen zur katholischen Lehre und zu kirchlichen Dokumenten beantwortet, basierend auf mehr als 40.000 kirchlichen Primärquellen. Im Vatikan sind seit Jahresbeginn 2025 Regeln für eine ethische und nachhaltige Nutzung von KI in Kraft. Ähnliche Richtlinien wurden auch bereits in einzelnen Bistümern erlassen. Am 28. Januar 2025 veröffentlichte der Vatikan die Note „Antiqua et nova“ über das Verhältnis von künstlicher und menschlicher Intelligenz. Darin sieht die Kirche in KI zwar große Chancen für Fortschritt, warnt aber eindringlich vor Ungerechtigkeit, Machtkonzentration und Ausbeutung. Sie ruft zu einer verantwortungsvollen, menschen- und gemeinwohlorientierten KI-Entwicklung auf.

Nach Ansicht der römischen Kurie kann KI bestehende soziale Ungleichheiten verschärfen, etwa durch wirtschaftliche Disparitäten, digitale Spaltungen oder neue Formen von Armut. Respekt und Förderung der Menschenwürde müssten daher oberstes Kriterium bei Design, Entwicklung und Einsatz von KI sein. Ein Großteil der Technologie und der Entscheidungsgewalt liege heute bei wenigen mächtigen Unternehmen. Das werfe ethische Fragen nach Kontrolle, Fairness und sozialer Gerechtigkeit auf. „Wir müssen wachsam sein, dass nicht die Technologie den Menschen ersetzt und dass nicht die Algorithmen, die die Information steuern, in den Händen weniger sind“, warnte Papst Leo XIV., der sich seit seiner Wahl mehrfach kritisch zur KI geäußert hat. Es wird bereits spekuliert, dass er seine erste Enzyklika diesem Thema widmen könnte.

Künstliche Intelligenz im Verbraucheralltag: Chance oder Risiko? KDFB lädt zu Bezirkstagen ein

KEB verbindet KI-Kompetenz mit wertebasierter Bildung

NANO Talk: Neuer Kolonialismus – Kampf um Macht in neuen Sphären (3sat-Sendung)

Buchtipp 

Ingo Dachwitz, Sven Hilbig: Digitaler Kolonialismus - Wie Tech-Konzerne und Großmächte die Welt unter sich aufteilen. C.H. Beck Verlag, München 2025, Preis: 28 Euro. ISBN 9783406823022

 

Geraldo Hoffmann Referent für Presse- und Öffentlichkeitsarbeit