Von Nadia Neuendorf
Am 10.12.2018 fand an der Universität zu Köln die zweite Veranstaltung zur Vortragsreihe Legal Tech unter der Leitung von Prof. Dr. Rostalski statt. In Vertretung von Filmemacher und Autor Matthias Heeder hielt Dr. Jens Hälterlein, Soziologe der Albert-Ludwigs-Universität Freiburg, einen Vortrag zu „Pre-Policing als Gefahr für die Freiheit?“ und zeigte Ausschnitte aus Heeders Dokumentation „Pre-Crime“. Konkret ging es dabei um die Frage, wie sinnvoll es ist, Verbrechen mittels Software und Künstlicher Intelligenz (KI) zu erkennen, bevor sie passieren.
Mit Prognosesoftware Verbrechen vorhersagen
Der Begriff Pre-Policing (kurz für Predictive Policing) basiert auf verschiedenen Aspekten der Statistik und Sozialphysik und beschreibt Software, die voraussagen soll, wo und wann ein Verbrecher zuschlägt. Ein solcher Einsatz von Technik ist nicht mehr rein visionär, sondern bereits Realität in Städten wie Chicago, Köln oder München. Genutzt wird dafür Software mit illustren Namen wie SKALA, PredPol oder PRECOBS.
In Chicago führt die Polizei mithilfe von data mining und machine learning eine sog. „Heat List“ – ein Ranking für potentielle Verbrecher und Opfer. Das Ranking ergibt sich dabei aus bereits gesammelten Daten über Vorstrafen, Wohnort, Arbeit bzw. Arbeitslosigkeit und Kontakt zu anderen Kriminellen. Steigt eine Person in dieser Liste auf, wird sie polizeilich beobachtet.
Ebenfalls in den USA gibt es eine „No Fly List“, auf der Personen aufgeführt werden, denen es nicht erlaubt ist, an Bord eines Flugzeugs zu gehen. Ins Leben gerufen wurde diese Liste nach dem 11. September 2001, um Personen, die in irgendeiner Weise mit Terror in Verbindung gebracht werden, von Flügen auszuschließen.
Pre-Policing in Deutschland
In Deutschland wird Pre-Policing derzeit in sechs Bundesländern eingesetzt bzw. getestet. Anders als in den USA werden aber keine personenbezogenen Daten erfasst bzw. ausgewertet, sondern ausschließlich raum- oder zeitbezogene Daten. So nutzt beispielweise das Land NRW die Software SKALA, um Wohnungseinbrüche vorherzusagen. Die Software schließt dabei u. a. von vorangegangen Einbrüchen auf zukünftige Wohnungseinbrüche. So sind beispielweise benachbarte Häuser eines Hauses, in das eingebrochen wurde, mit erhöhter Wahrscheinlichkeit das Ziel bei einer der nächsten Taten. An diesen Orten kann als Folge die Polizeipräsenz erhöht werden.
In diesem Jahr hat das LKA Hessen eine Software des Unternehmens Palantir in Betrieb genommen, die erstmals auch personenbezogene Daten verarbeitet. Das Unternehmen wurde von Paypal-Gründer und Facebook-Investor Peter Thiel ins Leben gerufen. Als Quellen nutzt die Software Polizeidatenbanken, Daten aus Telefonüberwachungen, Daten von ausgelesenen Handys, aber auch Facebook-Profile. Aktuell werden die Erkenntnisse der Software zur Überwachung von Salafisten genutzt.
Sinnvolle Art der Verbrechensbekämpfung oder Gefahr für die Freiheit?
Unabhängig vom vermeintlichen Nutzen des Pre-Policing stehen solche Programme stark in der Kritik. Denn, so Hälterlein, wisse niemand außer den Entwicklern, wie der verwendete Algorithmus arbeite. Das führe zu einer Selbstentmachtung der Polizei, die aufgrund einer Software handelt, die sie selbst nicht verstehe. Zudem sei die Effektivität bislang nicht eindeutig nachgewiesen. Denn allein das Wissen um mögliche Straftaten verhindere diese noch nicht.
Hälterlein sieht außerdem die Gefahr, dass durch Überwachung auf Grundlage von Algorithmen vermehrt soziale Minderheiten oder Menschen in sozial schwachen Gegenden in den Fokus der Polizei rücken könnten (Racial Profiling). Ebenso steige der Kontrolldruck der Polizei, wenn beispielsweise ein Einbruch prognostiziert wurde.
Auch die Geschäftsmodelle der Software-Anbieter seien kritisch zu betrachten. Denn diese funktionierten ähnlich wie Google und Facebook: Die Software wird kostenlos oder sehr günstig zur Verfügung gestellt, das Unternehmen erhält im Gegenzug Zugriff auf diverse Daten. So werde die Polizeiarbeit unweigerlich mit großen internationalen Unternehmen verknüpft.
Die Macht der Daten
All diese Aspekte riefen auch bei den vielen anwesenden Studierenden kontroverse Fragen auf: Wo sind die Daten letztendlich besser aufgehoben? Beim Staat oder bei Unternehmen? Wer oder was legitimiert die Beobachtung bestimmter Personen? Und was tun wir mit dem Wissen, das die Software erzeugt? Nehmen wir einen potenziellen Täter fest, bevor das Verbrechen überhaupt passiert ist?
Es bleibt abzuwarten und abzuwägen, welche Rolle wir Algorithmen und KI in Zukunft bei der Verbrechensbekämpfung einräumen wollen und wo die Grenze zum Überwachungsstaat liegt. Die Rechtsanwälte und Juristen von morgen werden sich als Organe der Rechtspflege in derartigen Debatten positionieren müssen. Die Mitgestaltung solcher Fragen sollte nicht allein in der Hand von Informatikern/Programmierern liegen.
Zum ersten Teil der Vortragsreihe mit Florian Glatz: Was macht eigentlich ein Blockchain-Anwalt?
Nadia Neuendorf arbeitet als Produktmanagerin und Redakteurin beim FFI-Verlag. Ein Schwerpunkt ihrer Arbeit ist das Thema Legal Tech. ffi-verlag.de