4 April 2019

por Lucien Begault, Amnistia Internacional

Em outubro de 2018, a União Europeia (UE) anunciou que estava a financiar um novo sistema automatizado de controlo das fronteiras, a ser testado na Hungria, Grécia e Letónia. Designado de iBorderCtrl, o projeto usa um sistema de deteção através de inteligência artificial (IA), comandado por um guarda virtual que interroga quem pretende atravessar uma fronteira. Os viajantes considerados aptos pelo sistema para responder a questões recebem um código que lhes possibilita a passagem. Mas nem todos têm a mesma sorte. Nesses casos, são transferidos para interrogatório, por agentes.

“A tecnologia iBorderCtrl alega que pode expor as verdades sobre a personalidade e as emoções de alguém através da análise de caraterísticas faciais”

Lucien Begault

O iBorderCtrl é apenas um dos muitos projetos que procuram automatizar as fronteiras da UE com o objetivo de combater a migração irregular. Esta nova tendência suscita sérias preocupações em matéria de direitos humanos.

A tecnologia iBorderCtrl alega que pode expor as verdades sobre a personalidade e as emoções de alguém através da análise de caraterísticas faciais. Os seus proponentes argumentam que há comportamentos “fixos e universais, idênticos entre os indivíduos e, claramente, visíveis nos mecanismos biológicos observáveis, independentemente do contexto cultural”. De acordo com os mesmos, estudar rostos “produz uma leitura objetiva de estados interiores autênticos”.

O iBorderCtrl baseia-se nesta lógica de que um sistema de reconhecimento facial de IA animado, através de agentes de fronteira gerados por computador, lê os sentimentos das pessoas. No entanto, está provado que pode ser tendencioso, refletindo preconceitos nos dados utilizados para configurá-lo.

As alegações do projeto de reduzir “o controlo subjetivo e a carga de trabalho dos agentes humanos”, bem como “aumentar o controlo objetivo com meios automatizados” são enganosas. Além disso, existem investigadores que já demonstraram que este tipo de reconhecimento não resiste ao escrutínio e está a ser aplicado de forma, perigosamente, irresponsável. O iBorderCtrl é um desses casos.

“A falta de transparência no desenvolvimento da tecnologia também é preocupante”

Lucien Begault

Apesar de enfatizar que um “guarda de fronteiras humano” está sempre envolvido em recusas de entrada e tais casos nunca serão determinados apenas por meio de avaliações feitas baseadas em IA, na prática, trata-se de uma garantia impossível. Evelien Brouwer, investigadora do Centro de Migração e Direito dos Refugiados de Amsterdão (Vrije Universiteit Amsterdam) explica: “Considerando o elevado número de viajantes, a possível falta de pessoal com formação suficiente e a realidade política que pressiona para medidas restritivas nas fronteiras, os riscos de que as decisões terão por base julgamentos feitos pelo sistema de IA são muito altos. Na prática, vai ser muito difícil para o indivíduo, os supervisores de proteção de dados e os tribunais comprovarem se uma recusa de entrada é ou não baseada em decisões automatizadas”.

A falta de transparência no desenvolvimento da tecnologia também é preocupante, lembrando o problema da “caixa negra”, frequentemente atribuído à IA. Os agentes de fronteira têm de confiar em tecnologia que não entendem, enquanto os viajantes dependem de um sistema opaco, com pouca responsabilidade.

O iBorderCtrl é revelador de uma tendência mais ampla, verificada na UE, para melhorar as capacidades de monitorização das fronteiras através de tecnologia. Durante décadas, investiu-se na securitização e militarização, trabalhando para a construção do que alguns descrevem como a “Fortaleza Europa”. Embora os investimentos em sistemas tradicionais tenham-se intensificado em resposta ao aumento do número de pessoas à procura de segurança na Europa, em 2015, registou-se um interesse crescente em IA e big data para garantir soluções inteligentes de fronteiras automatizadas.

Estamos a assistir ao surgimento de soluções tecnológicas no sistema de monitorização de fronteiras, em toda a UE, juntamente com o advento de mais violações dos direitos humanos. Analisar o número de projetos que utilizam a automatização para fins de controlo, financiados pelo Horizonte 2020, o maior programa de investigação e inovação da UE de sempre, é uma indicação clara desta tendência.

“O uso de sistemas autónomos não-tripulados também poderá levar os robôs a serem equipados, não apenas com sensores, mas com instrumentos letais”

Lucien Begault

Tomemos como exemplo o ROBORDER, um projeto com tecnologias que parecem de uma realidade distante. Também em fase piloto, está a ser testado na ilha de Kos, na Grécia, e na fronteira terrestre búlgaro-sérvia, entre outros lugares.

O ROBORDER oferece as chamadas soluções para os atuais desafios de fronteira, por meio de “robôs móveis não tripulados, incluindo veículos aéreos, de superfície, subaquáticos e terrestres, capazes de funcionar tanto individualmente como em grupo, que incorporarão sensores multimodais como parte de uma rede interoperável”. Isso significa que as fronteiras terrestres e marítimas da UE seriam patrulhadas por grupos de robôs, alertando as autoridades para as diversas atividades, ao mesmo tempo que reúnem grandes volumes de dados para fornecer uma visão geral imediata e previsível das situações.

Os dados reunidos criam um sistema de segurança que permite aos agentes das fronteiras concentrarem recursos em determinadas áreas. Com a possibilidade de gerarem visões previsíveis, possibilitam a intensificação da segurança e vigilância, tanto no presente como no futuro, aumentando as capacidades de deteção e rastreamento. Por conseguinte, um sistema como o ROBORDER apresenta o risco de exacerbar as violações dos direitos humanos infligidas pela “Fortaleza Europa”.

O uso de sistemas autónomos não-tripulados também poderá levar os robôs a serem equipados, não apenas com sensores, mas com instrumentos letais. A Campaign to Stop Killer Robots (Campanha para Parar os Robôs Assassinos) já sugere a plausibilidade destes casos. Anteriormente, a UE recebeu propostas para incluir robôs letais nos seus sistemas de segurança nas fronteiras.

“Considerando que as fronteiras já foram amplamente militarizadas, os sistemas automatizados de armas podem não ser uma realidade tão distante”

Lucien Begault

A empresa estatal búlgara Prono escreveu à Frontex sobre o desenvolvimento de uma tecnologia com “influência letal administrável sobre os infratores, sem exigir monitorização constante por pessoal qualificado”. Considerando que as fronteiras já foram amplamente militarizadas, os sistemas automatizados de armas podem não ser uma realidade tão distante.

Em última análise, a implantação de novas tecnologias, como as que foram discutidas (e há, obviamente, muitas mais) para automatizar os sistemas de segurança nas fronteiras da UE, suscita múltiplas preocupações em matéria de direitos humanos. Embora as implicações passadas e presentes dos da “Fortaleza Europa” tenham sido amplamente catalogadas, as futuras, impulsionadas por mudanças tecnológicas que reformulam o cenário de segurança das fronteiras da UE, precisam urgentemente de ser abordadas. Considerando o sofrimento humano e as pesadas políticas de fronteira, e a crescente abordagem com recurso a soluções tecnológicas da UE em relação à segurança nas fronteiras, seria descuidado não examinar os novos desenvolvimentos tecnológicos que definem a fortaleza da Europa do amanhã.

Artigos Relacionados