Welche Erfahrungen haben Sie mit diesen Technologien in der Praxis gemacht? Sie haben mit vielen Betroffenen gesprochen. Wie äußern sie sich?
Seit 2018 habe ich als Juristin und Anthropologin viel Zeit mit Menschen verbracht, die an den scharfen Rändern der technologischen Innovation stehen. Von der Grenze zwischen den USA und Mexiko in der Wüste Arizonas über die Grenze zwischen Kenia und Somalia bis hin zu verschiedenen Flüchtlingslagern in der EU, habe ich immer wieder aus erster Hand gesehen, welche Auswirkungen die Grenzüberwachung und Automatisierung auf das Leben der Menschen hat. Es ist nicht meine Aufgabe, zu verallgemeinern oder für andere Menschen zu sprechen, aber einige Themen fallen mir immer wieder auf: dass Menschen das Gefühl haben, ständig überwacht oder auf Datenpunkte und Fingerabdrücke reduziert zu werden.
Viele Menschen weisen auch darauf hin, wie seltsam es ihnen erscheint, dass an Orten wie Flüchtendenlagern riesige Geldsummen in Hochrisikotechnologien gesteckt werden, während sie keinen Zugang zu einem Anwalt oder psychosozialer Unterstützung oder in einigen Fällen sogar zu angemessener Nahrung und Wasser haben. Es gibt auch ein zentrales Missverständnis in vielen Border-Tech-Projekten – dass mehr Technologie die Menschen davon abhalten wird, zu kommen. Aber das ist nicht der Fall, was ich aus erster Hand gesehen habe. Stattdessen werden die Menschen gezwungen, gefährlichere Routen zu nehmen, was zu noch mehr Todesfällen an den Grenzen Europas führt.
Was sind Ihre wichtigsten Empfehlungen, um diese Menschenrechtsverletzungen zu beenden?
Es gibt wenig Regulierung, um die Entwicklung und den Einsatz von Hochrisiko-Grenztechnologie zu steuern. Das von der EU vorgeschlagene KI-Gesetz ist ein vielversprechender Schritt und der erste geographisch begrenzte Versuch weltweit, KI zu regulieren. Derzeit geht das Gesetz jedoch nicht weit genug, um Menschen in Fluchtbewegungen angemessen zu schützen. Ein Moratorium oder ein Verbot von Hochrisiko-Grenztechnologien wie Robo-Dogs, KI-Lügendetektoren und prädiktiven Analysen, die für Verbote von Grenzübertritten eingesetzt werden, wäre ein notwendiger Schritt in der globalen Auseinandersetzung mit dem Thema.
Wir brauchen auch mehr Transparenz und Rechenschaftspflichten in Bezug auf Experimente mit Grenztechnologien. Menschen mit gelebten Migrationserfahrungen müssen bei allen Diskussionen im Vordergrund stehen. Denn am Ende geht es nicht wirklich um Technologie. Worüber wir sprechen, ist Macht – und die Machtunterschiede zwischen Akteuren wie Staaten und dem privaten Sektor, die über Versuchs-Projekte entscheiden, und den Communities, die zum Testgelände in diesem Hochrisikolabor werden. Warum entwickeln wir KI-Lügendetektoren, um sie an Flüchtlingen zu testen, wenn wir KI einsetzen könnten, um Rassismus an der Grenze zu eliminieren? Das sind alles bewusste Entscheidungen. Was können wir in diesen unsicheren Zeiten gemeinsam tun, um diese Narrative zu verändern?