Stell dir vor, ein Algorithmus entscheidet, ob du die Wohnung in Gohlis bekommst, ob dein Kredit für die Familie durchgeht oder ob du den Job im Neuen Rathaus kriegst. Klingt nach Science-Fiction? Ist es nicht. Das Konzept des Social Scoring ist längst in der Welt und seine Mechanismen bedrohen auch deine Freiheit. Für mich ist klar: Der Rechtsstaat schützt den Bürger, nicht umgekehrt. Wir müssen jetzt handeln, bevor die Logik der totalen digitalen Kontrolle auch unseren Alltag bestimmt.
China: Der digitale Überwachungsstaat als mahnendes Beispiel
Was in China unter dem Sozialkredit-System (SCS) passiert, ist ein digitaler Albtraum und eine klare Verletzung fundamentaler Menschenrechte. Das SCS ist mehr als nur eine Wirtschaftsauskunftei; es ist ein umfassendes System, das finanzielle, soziale, moralische und sogar politische Aspekte bewertet.
Falsches Verhalten, ob ein Verkehrsverstoß oder das „Verbreiten von Gerüchten“, kann Bürger auf eine Blacklist bringen. Die Konsequenzen? Ausschluss vom Kauf von Flugtickets, kein Zugang zu bestimmten Schulen, eingeschränkte Jobs. Die deutsche Bundesregierung sieht in diesen Einschränkungen zurecht eine Verletzung der Bewegungsfreiheit und grundlegender Menschenrechte.
Das ist keine ferne Theorie, sondern die Blaupause für einen Staat, der seine Bürger nicht mehr schützt, sondern diszipliniert. Für uns als Sozialliberale ist das ein absolutes No-Go. Vertrauen schafft man nicht durch Überwachung.
Die Gefahr des Algorithmic Bias
KI verspricht Effizienz, doch sie kann blitzschnell und massenhaft Ungerechtigkeit reproduzieren. Das Kernproblem ist der Algorithmic Bias: Selbst wenn gesetzlich geschützte Merkmale (wie Herkunft oder Geschlecht) nicht eingegeben werden, kann die KI diese durch Proxy-Diskriminierung ableiten.
Wie das geht? Die Algorithmen schauen sich an, welche Apps du nutzt, wann du einkaufst oder welchen E-Mail-Anbieter du hast. Wenn diese Muster mit einem bestimmten, statistisch benachteiligten Profil korrelieren, zementiert die KI diese Ungleichheit. Für den Leipziger Arbeiter oder die junge Familie, die auf fairen Zugang zu Wohnraum und Krediten angewiesen ist, ist das fatal. Man wird benachteiligt, ohne zu wissen warum. Die niederländische Kindergeldaffäre zeigt mahnend, wie schnell staatliche KI-Systeme unschuldige Bürger ruinieren können.
Klima-Score: Gerechte Lösung oder Freiheitspreis?
Auch beim dringend notwendigen Klimaschutz droht die Logik des Scorings Einzug zu halten, Stichwort Personal Carbon Allowances (PCA). Der Gedanke: Jedem Bürger wird ein individuelles CO2-Budget zugewiesen.
Das klingt auf den ersten Blick gerecht, denn jeder hat die gleiche Obergrenze. Aber das Modell des Personal Carbon Trading (PCT) birgt ein enormes Risiko der sozialen Ungleichheit: Wohlhabende könnten Emissionsrechte von ärmeren Bürgern kaufen und ihren hoch-konsumierenden Lebensstil einfach fortsetzen.
Ein gerechter Klimaschutz darf nicht zur Totalüberwachung des individuellen Konsums führen. Die moralische Dringlichkeit der Klimakrise darf nicht zur Legitimation einer Überwachungsinfrastruktur werden, die dem chinesischen SCS ähnelt. Wir brauchen Klimagerechtigkeit, die soziale Ungleichheit abbaut, nicht zementiert.
Transparenz und Dein Recht!
Die gute Nachricht ist: Europa hat mit der DSGVO bereits einen Schutzschild aufgebaut, den wir stärken müssen.
- Recht auf Transparenz: Ein Urteil des Europäischen Gerichtshofs (EuGH) besagt, dass wenn ein Score maßgeblich über einen Vertrag entscheidet (z.B. Wohnung, Kredit), du ein Recht auf menschliches Eingreifen und vor allem auf Transparenz über die involvierte Logik hast. Firmen dürfen ihre Bewertungslogik nicht mehr einfach als Firmengeheimnis behandeln.
- Algorithmic Audits: Wir fordern gesetzliche Vorgaben für unabhängige Algorithmic Audits. Diese müssen prüfen, ob die KI-Systeme unserer Vermieter, Banken und Behörden faire Entscheidungen treffen und keine versteckte Diskriminierung betreiben.
- Digitaler Rechtsstaat: Mit dem neuen AI Act in der EU schaffen wir ein Modell, das KI-Systeme nutzt, aber gleichzeitig die Entstehung eines Kontrollstaates verhindert. Wir brauchen mehr davon, um die individuellen digitalen Menschenrechte zu stärken.
Für Leipzig heißt das: Wir kämpfen für fairen Wohnraum, faire Jobs und faire Kredite, die auf klaren, transparenten Regeln beruhen – und nicht auf voreingenommenen Algorithmen. Deine Freiheit ist nicht verhandelbar!