O Conselheiro de Advocacy da Amnistia Internacional, Mher Hakobyan, reagiu à votação do Parlamento Europeu relativa à legislação de como os sistemas de inteligência artificial devem ser regidos ao abrigo da Lei da Inteligência Artificial da União Europeia, que proíbe várias práticas incompatíveis com os direitos humanos.
O conselheiro considera que a proibição de sistemas de identificação biométrica à distância e em direto é um passo significativo, mas recorda que texto aprovado “não proíbe a vigilância em massa, mas limita a sua utilização apenas à aplicação da lei e dentro de limites legais estritos”.
“O projeto de lei também proíbe várias utilizações nocivas dos sistemas de IA que discriminam as comunidades marginalizadas. Estas incluem tecnologias que afirmam ‘prevenir crimes’, sistemas de classificação social que impedem as pessoas de aceder a serviços públicos e privados essenciais e tecnologias de reconhecimento de emoções utilizadas pelas autoridades e pelos funcionários das fronteiras para ‘identificarem’ indivíduos suspeitos”, sublinhou.
Mher Hakobyan refere ainda que “a Lei da IA também não proíbe os sistemas discriminatórios de definição de perfis que assinalam as pessoas que se deslocam como um ‘risco’ e os sistemas de previsão utilizados para interditar, restringir e impedir a migração, apesar dos apelos da Amnistia Internacional e de outros membros da sociedade civil para que estas tecnologias sejam proibidas”, admitindo que é preocupante que “o projeto permita que os fornecedores de sistemas de IA utilizados na aplicação da lei, na gestão da migração, na prestação de assistência social e noutras áreas de alto risco possam contornar a Lei da IA, dando-lhes o poder de decidir se os seus sistemas representam um risco elevado para os direitos humanos. Isto pode fazer com que a Lei da IA seja apenas um ‘documento de orientação’ para a IA de alto risco, em vez de um regulamento eficaz.
Segundo o conselheiro da Amnistia Internacional, “a união Europeia deve assegurar uma transparência e responsabilidade significativas sobre a forma como os sistemas de IA são utilizados, os tipos de impacto nos direitos humanos que têm, garantindo a igualdade de acesso às tecnologias e o direito de procurar reparação em caso de danos”.
Contexto
A Comissão Europeia propôs uma legislação que regulamenta a utilização da inteligência artificial a 21 de abril de 2021. Já o Conselho da UE, que representa os governos nacionais da UE, adotara a sua posição em Dezembro de 2022. O Parlamento Europeu pretende finalizar a sua posição em Junho deste ano, depois de os três orgãos chegarem a um acordo relativamente a um texto comum para o regulamento.
A Amnistia Internacional, entre a coligação de organizações da sociedade civil liderada pela Rede Europeia de Direitos Digitais (EDRi), tem vindo a apelar a uma regulamentação da UE em matéria de tecnologias e práticas de inteligência artificial que respeite os direitos humanos.