Foto: dpa/kyodo

Mehr Befugnisse und bessere Analyse- und Filtertools auf KI-Basis – das wünscht sich die Hamburger Innenbehörde für ihre Polizei. Und ist damit unter ihren Kol­le­g*in­nen aus anderen Bundesländern natürlich nicht allein. Riesige Datenbanken zu durchsuchen, in denen Informationen aus Behördendaten mit öffentlich im Internet auffindbaren Informationen kombiniert werden – davon träumt jede staatliche Ermittlertruppe.

Hamburgs Innensenator Andy Grote (SPD) hat einen Ermittlungserfolg gegen ein internationales Vergewaltigernetzwerk zum Anlass genommen, diese Forderung erneut zu platzieren. Bei der Operation „Medusa“ gingen Er­mitt­le­r*in­nen gegen Täter vor, die ihre Opfer unter Betäubung vergewaltigen und die Aufnahmen davon online verbreiten. Oft nutzen die Täter zur Sedierung laienhaft Medikamentencocktails, die lebensbedrohlich sein können, und führen den Missbrauch über lange Zeiträume fort. Beteiligt an den Ermittlungen waren neben Deutschland auch Großbritannien, Kanada, die USA, Brasilien, Frankreich, Ungarn, die Niederlande und Spanien. 156 Opfer und Täter konnten laut Innenbehörde identifiziert werden.

Angestoßen worden waren die Ermittlungen von zwei Journalistinnen. Isabell Beer und Isabel Ströh waren bei ihren Recherchen für den NDR auf ein internationales Vergewaltigernetzwerk gestoßen, über das sie 2024 in einer Dokumentation für das Youtube-Format Strg F berichteten. Die betreffenden Täter organisieren sich unter anderem in Telegramgruppen. Die Videos von den Vergewaltigungen werden im Netz millionenfach aufgerufen.

Nach Angaben des NDR hatten die Jour­na­lis­t*in­nen sich schon 2022 mit ihren Recherchen an Ermittlungsbehörden im In- und Ausland gewandt. Doch passiert war lange Zeit nichts – bis vor einigen Monaten dann doch Bewegung in die Sache kam. Weil das Hamburger Landeskriminalamt rein geografisch an der Quelle saß, also in Hamburg, wo auch der NDR ist, übernahm es eine federführende Rolle, auch wenn die Taten sich nach bisherigem Ermittlungsstand nicht in Hamburg ereigneten.

Doch wie hätten KI-Tools dazu beitragen können, Ermittlungen voranzubringen, wenn die Informationen ohnehin gebündelt in Telegramgruppen vorliegen? Wahrscheinlich gar nicht. „Das ist ein generelles Phänomen im Zusammenhang mit KI“, erklärt Kilian Vieth-Ditlmann, Leiter des Politikbereichs bei der NGO Algorithmwatch: „Es wird sehr viel hineinprojiziert.“ Ein tatsächlicher Ermittlungsvorteil erschließe sich ihm hier nicht.

Algorithmwatch und andere NGOs warnen immer wieder vor den Gefahren, die damit verbunden sind, wenn die Polizei weitreichende Befugnisse zur Nutzung KI-basierter Analysetechnologien erhält. Ein Problem sei die „totale Intransparenz“, sagt Vieth-Ditlmann. Der Computer spucke Verdächtige aus, wobei weder für die Er­mitt­le­r*in­nen noch die Betroffenen nachvollziehbar sei, was zu dem Verdacht führte.

Dann komme der Automation Bias zum Tragen – also die Tatsache, dass die meisten Menschen geneigt sind, dem Output von Computern zu glauben, auch wenn die Annahme nicht plausibel hergeleitet wird. Zudem neigen auch Algorithmen dazu, nach Kriterien wie Klasse, Herkunft oder Geschlecht zu diskriminieren. In den USA und anderen Ländern könne man bereits sehen, dass viele Personen wegen Fehleinschätzungen von Algorithmen im Gefängnis säßen, sagt Veith-Ditlmann.

Ein weiterer kritischer Punkt: KI-basierte Auswertungsinstrumente machen vor allem Sinn, wenn sie riesige Datenbanken durchsuchen, die mit menschlicher Kraft allein schwer zu sichten sind. „Da werden sensible Daten zusammengeworfen“, sagt Vieth-Ditlmann. In so einem Datenpool kämen Angaben von Zeug*innen, Opfern oder Betroffenen zusammen, also auch völlig unbeteiligten Personen, die vielleicht mal einen Fahrraddiebstahl angezeigt haben. Dagegen sei zumindest in den bisherigen Gesetzentwürfen kein Schutzmechanismus vorgesehen.

&#xE80F

Auch Algorithmen neigen dazu, nach Kriterien wie Klasse, Herkunft oder Geschlecht zu diskriminieren

Die Wünsche des Hamburger Innensenators werden sich voraussichtlich schneller erfüllen, als NGOs wie Algorithmwatch und anderen KI-Expert*innen lieb ist. Vergangene Woche hat der Bundestag in erster Lesung über drei Gesetzentwürfe beraten, die Befugnisse der Ermittlungsbehörden ausweiten und den Einsatz von KI-Software ermöglichen sollen. Vorgesehen ist darin unter anderem der automatisierte Abgleich biometrischer Daten aus Strafverfahren mit öffentlich zugänglichen Daten aus dem Internet mittels KI-gestützter Software. Die Abgeordneten verwiesen die Entwürfe weiter an verschiedene Ausschüsse. Die diskutieren sie, verändern sie unter Umständen und legen sie dem Bundestag noch mal vor, bevor er endgültig entscheidet.

Die taz gehört zu 100 Prozent ihren Leser:innen und ist damit nicht nur konzernfrei, sondern auch kostenfrei zugänglich. Alle Artikel stellen wir frei zur Verfügung, ohne Paywall. Gerade in diesen Zeiten müssen Einordnungen und Informationen allen zugänglich sein. Unsere Leser:innen müssen nichts bezahlen, wissen aber, dass kritischer, unabhängiger Journalismus nicht aus dem Nichts entsteht. Dafür sind wir sehr dankbar. Damit wir auch morgen noch unseren Journalismus machen können, brauchen wir mehr Unterstützung für taz zahl ich. Dank Ihnen haben wir nun die 50.000 erreicht. So viele unterstützen freiwillig und regelmäßig. Noch nicht dabei? Werden Sie jetzt Teil der Community! Jetzt unterstützen

KI-Pilotprojekt der Hamburger U-Bahn Der Algorithmus hat kein Gespür für soziale Kontexte

Die Hamburger Hochbahn will mit KI Gefahren erkennen. Eine gefährliche Entwicklung im öffentlichen Raum, denn soziale Ausgrenzung wird technische Norm.

Verbot von Kindersexpuppen Vermutungen über eine Gefahr

Das Bundesverfassungsgericht bestätigt das Gesetz gegen Sexpuppen mit kindlichem Erscheinungsbild. Dabei ist die Sachlage alles andere als eindeutig.

Digitale Sicherheit Der Microsoft-Teufelskreis

Wenn Schulen digitaler werden wollen, setzen sie meist auf Microsoft-Produkte. Das ist in vielerlei Hinsicht ein Problem.

10 Ausgaben für 10 Euro

Die Wochenzeitung mit taz-Blick

Jetzt kennenlernen