Wir beraten und gestalten Marken
NETZWELT
„KI“ für den Überwachungsstaat. Nein, das ist keine Fiktion!
Willkommen in der Zukunft! Der Faschismus des Überwachungsstaats ist anders als der Faschismus von früher. Er steht dir nicht aktiv im Weg, solange das System dich nicht für einen Terroristen hält. Er bedroht dich nicht mit Maschinenpistolen am Flughafen sondern vermisst deine Biometrie inklusive deiner Gang-Muster.
Quelle: blog.fefe.de
Diese KI beobachtet täglich Millionen von Autos und sagt der Polizei, ob Du wie ein Krimineller fährst
Künstliche Intelligenz hilft amerikanischen Polizisten bei der Suche nach „verdächtigen“ Bewegungsmustern, indem sie sich durch Nummernschilddatenbanken mit Milliarden von Datensätzen wühlen. Ein Fall von Drogenhandel in New York hat eine der bisher größten Einführungen der umstrittenen Technologie aufgedeckt — und in Frage gestellt.
Im März 2022 fuhr David Zayas auf dem Hutchinson River Parkway in Scarsdale. Sein Auto, ein grauer Chevrolet, war völlig unauffällig, ebenso wie seine Geschwindigkeit. Doch für die Polizei von Westchester County war das Auto ein Grund zur Besorgnis und Zayas ein möglicher Krimineller; ihr leistungsstarkes neues KI-Tool hatte das Verhalten des Fahrzeugs als verdächtig identifiziert.
Die KI durchsuchte eine Datenbank mit 1,6 Milliarden Kfz-Kennzeichendatensätzen, die in den letzten zwei Jahren an verschiedenen Orten im Bundesstaat New York gesammelt worden waren, und stellte fest, dass Zayas’ Auto auf einer Fahrt war, die typisch für einen Drogenhändler ist. Laut einer Akte des Justizministeriums unternahm er zwischen Oktober 2020 und August 2021 neun Fahrten von Massachusetts in verschiedene Teile New Yorks, wobei er Routen folgte, die bekanntermaßen von Drogenhändlern benutzt werden, und sich dabei auffallend kurz aufhielt. Am 10. März letzten Jahres hielt ihn die Polizei von Westchester an, durchsuchte sein Auto und fand darin 112 Gramm Crack, eine halbautomatische Pistole und 34.000 Dollar in bar, wie aus den Gerichtsunterlagen hervorgeht. Ein Jahr später bekannte sich Zayas schuldig, mit Drogen gehandelt zu haben.
Ohne richterliche Aufsicht funktioniert diese Art von System nach dem Gutdünken eines jeden Beamten, der Zugang dazu hat
Der bisher nicht veröffentlichte Fall ist ein Einblick in die Entwicklung der KI-gestützten Polizeiarbeit und ein Vorbote der verfassungsrechtlichen Fragen, die damit unweigerlich einhergehen werden. Normalerweise wird die automatische Kennzeichenerkennung (Automatic License Plate Recognition, ALPR) eingesetzt, um nach Kennzeichen zu suchen, die mit bestimmten Straftaten in Verbindung stehen. In diesem Fall wurde sie jedoch eingesetzt, um das Fahrverhalten aller Personen zu untersuchen, die über einen Zeitraum von zwei Jahren eine der 480 Kameras in Westchester County passierten. Zayas Anwalt Ben Gold bestritt die von der KI gesammelten Beweise gegen seinen Mandanten und bezeichnete sie als „Rasterfahndung“.
Und er hatte die Daten, um dies zu untermauern. Ein von ihm bei der Polizei von Westchester eingereichter FOIA-Bericht enthüllte, dass das ALPR-System wöchentlich über 16 Millionen Nummernschilder von 480 ALPR-Kameras scannte. Von diesen Systemen waren 434 stationär an Masten und Schildern angebracht, während die restlichen 46 mobil an Polizeifahrzeugen angebracht waren. Die KI sah sich nicht nur die Nummernschilder an. Sie machte sich auch Notizen zu Marke, Modell und Farbe des Fahrzeugs – nützlich, wenn das Kennzeichen eines verdächtigen Fahrzeugs nicht sichtbar oder unbekannt ist.
Für Gold kam die Analyse jedes Autos, das von einer Kamera erfasst wurde, einer „beispiellosen Suche“ gleich. “Dies ist das Schreckgespenst der modernen Überwachung, vor dem der Vierte Verfassungszusatz schützen muss”, schrieb er in seinem Antrag auf Unterdrückung der Beweise. “Es handelt sich um die systematische Entwicklung und den Einsatz eines riesigen Überwachungsnetzes, das in die berechtigte Erwartung der Gesellschaft auf Privatsphäre eindringt.
„Ohne gerichtliche Aufsicht funktioniert diese Art von System nach der Laune jedes Beamten, der Zugang dazu hat“.
Gold lehnte es ab, sich weiter zu dem Fall zu äußern. Das Westchester County Police Department reagierte nicht auf Bitten um Stellungnahme.
Die Auseinandersetzung mit Rekor
Das Nummernschildüberwachungssystem von Westchester PD wurde von Rekor gebaut, einem 125-Millionen-Dollar-Marktkapitalisierungs-KI-Unternehmen, das an der NASDAQ handelt. Lokale Berichterstattung und öffentliche Regierungsdaten, die von Forbes überprüft wurden, zeigen, dass Rekor seine ALPR-Technologie an mindestens 23 Polizeibehörden und lokale Regierungen in ganz Amerika verkauft hat, von Lauderhill Dazu gehören nicht mehr als 40 Polizeibehörden im gesamten Bundesstaat New York, die das System von Westchester County PD in Anspruch nehmen können, das aus seinem Real-Time Crime Center läuft.
Der große Verkauf von Rekor ist, dass seine Software keine neuen Kameras benötigt; sie kann in bereits eingesetzten Kameras installiert werden, unabhängig davon, ob sie der Regierung, einem Unternehmen oder einem Verbraucher gehören. Es betreibt auch das Rekor Public Safety Network, ein Opt-in-Projekt, das in den letzten drei Jahren Fahrzeugstandortdaten von Kunden aggregiert, seit es mit Informationen aus 30 Staaten gestartet wurde, die zu dieser Zeit 150 Millionen Kennzeichen pro Monat lasen. Diese Art von zentralisierter Datenbank mit staatlichem Datenaustausch hat Bürgerrechtsaktivisten beunruhigt, insbesondere angesichts der jüngsten Enthüllungen, dass das Sacramento County Sheriff’s Office Nummernschildlesedaten mit Staaten teilte, die Abtreibung verboten haben.
„Das Ausmaß dieser Art von Überwachung ist einfach unglaublich massiv“, sagte Brett Max Kaufman, Senior Staff Attorney bei der ACLU, gegenüber Forbes. Er ver wies auf Rekor und Flock, einen Rivalen, der ein ähnliches panamerikanisches Überwachungsnetzwerk von Nummernschildlesern betreibt, und beschrieb eine befehlslose Überwachung von Bürgern in Massen wie diese als „eher erschreckend“.
Die Firma Rekor lehnte ein Interview ab und reagierte nicht auf Anfragen nach Kommentaren. Aber Matt Hill, der 2019 sein Unternehmen OpenALPR an Rekor verkaufte und sein Chefwissenschaftler war, bevor er im September 2022 ging, sagte Forbes, dass das Netzwerk wahrscheinlich wachsen würde. „Ich bin mir ziemlich sicher, dass es jetzt mehr Kameras in mehr Staaten geben würde … Es wäre ziemlich groß“, sagte er und stellte fest, dass auch nichtstaatliche Kunden Videos zur Verfügung gestellt haben. Zu den Privatkunden von Rekor gehören Parkplätze, Casinos und Fast-Food-Ketten-Restaurants.
Mit so vielen Agenturen, die jetzt Nummernschildaufzeichnungen sammeln, und dem Beginn einer fortschrittlicheren, KI-gestützten Überwachung, alarmieren Datenschutzbefürworter eine Technologie, die mit wenig Rechtsschutz für den durchschnittlichen Amerikaner expandiert. “Sie haben gesehen, wie die Systeme so weit metastasiert haben, dass die Fähigkeiten einer lokalen Polizeibehörde die meisten Menschen wirklich schockieren würden”, fügte Kaufman hinzu. „Dies ist nur der Anfang der Anwendungen dieser Technologie“.
„Unvermeidbare Überwachung“
Der ALPR-Markt wächst dank einer Menge Rekor-Rivalen, darunter Flock, Motorola, Genetec, Jenoptik und viele andere, die Verträge zwischen Bundes- und Landesregierungen haben. Sie versuchen jeweils, ein Stück eines Marktes zu eraben, das auf mindestens 2,5 Milliarden Dollar geschätzt wird.
Aber es ist nicht einfach. Rekor meldete die Ergebnisse des ersten Quartals für dieses Jahr und erzielte einen Umsatz von 6,2 Millionen US-Dollar mit einem Nettoverlust von 12,6 Millionen US-Dollar. Es meldete einen ähnlichen Verlust im selben Quartal des vergangenen Jahres. Seine Aktie wird derzeit mit etwa 2,75 $ unter einem Hoch von 23,55 $ pro Aktie im April 2021 gehandelt.
Auf der Suche nach diesem schwer fassbaren Gewinn schaut der Markt über die Strafverfolgung hinaus auf den Einzelhandel und Fast Food. Unternehmensgiganten haben mit der Idee gespielt, Nummernschilder an Kundenidentitäten zu binden. McDonalds und White Castle haben bereits damit begonnen, ALPR zu verwenden, um Drive-Through-Erlebnisse anzupassen, wiederkehrende Kunden zu erkennen und frühere Bestellungen zu verwenden, um sie durch den Bestellprozess zu führen oder individuelle Werbeangebote anzubieten. Die letztere Restaurantkette nutzt Rekor-Technologie, um dies über eine Partnerschaft mit Mastercard zu tun.
Mit der schieren Breite der Expansion wird es immer schwieriger, die wachsamen Augen der Regierungs- und Unternehmensüberwachung zu vermeiden – oder sogar zu wissen, wo sie sind. Wie Gold bei dem Versuch, Daten von der Regierung von Westchester zu erhalten, festgestellt hat, sind die Behörden rechtlich nicht verpflichtet, Informationen über den Verbleib von Kameras zur Verfügung zu stellen.
„Angesichts der enormen Natur des ALPR-Netzwerks und der Notwendigkeit, öffentliche Autobahnen zu befahren, um sich im modernen Leben zu engagieren“, schrieb Gold in seinem Antrag, die Unterdrückung zu unterdrücken, „ist die Vermeidung der ALPR-Überwachung sowohl undurchsetzbar als auch unmöglich“.
Quelle: forbes.com, Autor: Thomas Brewster