Em junho de 2023, o Parlamento Europeu aprovou a proposta de regulamentação da utilização da Inteligência Artificial. Foi necessário determinar guias claros quanto à criação, desenvolvimento e utilização destes sistemas, por forma a garantir os direitos fundamentais e o reforço da segurança digital, tendo sempre em consideração uma aplicação tecnologicamente neutra e adaptável ao desenvolvimento da inteligência artificial.
Definiu-se Inteligência Artificial como um sistema operado por máquina que é projetado para funcionar com diferentes níveis de autonomia e que podem, por objetivos explícitos ou implícitos, gerar outputs como previsões, recomendações ou decisões que influenciam ambientes virtuais ou físicos.
Este regulamento será aplicável a fornecedores que comercializem ou coloquem em serviço sistemas de IA na União Europeia, quer estejam estabelecidos na UE ou num país terceiro, a utilizadores de sistema de IA localizados na EU, bem como a fornecedores e utilizadores de algum país terceiro desde que o resultado apresentado pelo sistema de AI seja utilizado na UE.
Devido ao crescente número e sistemas de IA disponíveis, cujo propósito é repercutido em diversas áreas da vida dos utilizadores, no que respeita à produção de soluções e informações fidedignas aos mais diversos assuntos e com capacidade autónoma de fornecimento de tais soluções ou serviços conexos, surge a necessidade de garantir que esta utilização confiável e uniforme.
Por isso existe a necessidade de uma garantia de disponibilização de serviços de fontes fidedignas e legais, que garantam o maior nível de segurança possível tendo como principal base a informação disponibilizada pelo sistema para a obtenção de resultados.
Esta regulamentação pretende determinar a categoria de riscos identificáveis nos sistemas de IA a ser disponibilizados, devendo esta análise mitigar os problemas que tais riscos apresentam ao mercado digital e as obrigações uniformes na resolução dos mesmos, com vista ao fornecimento de um serviço fiável.
São princípios gerais de conformidade, a supervisão e controle do sistema de IA por humanos, a atualização de medidas de segurança robustas que combatam o uso ilegal de terceiros, o desenvolvimento do software IA em conformidade com as normas de proteção de dados europeia, a permissão de registo e rastreio das soluções propostas pela IA, a consciencialização ao utilizador de que este está a interagir com um sistema IA e o desenvolvimento sustentável do IA.
Qualificação dos riscos: de mínimo a inaceitável
O regulamento também qualifica os sistemas de IA como de risco mínimo, risco limitado, risco elevado e risco inaceitável, implicando a proibição dos mesmos, os quais estarão sujeitos a diferentes regras e obrigações.
Quanto à qualificação dos sistemas de IA de acordo com os riscos, estes são considerados de risco elevado quando forem desenvolvidos como medida de segurança dos produtos e serviços abrangidos e/ou quando operem em áreas de sensibilidade aos direitos, segurança, saúde e bem-estar dos utilizadores. São áreas suscetíveis de risco elevado, áreas de acesso a serviços e documentação públicas, áreas de saúde (tanto na gestão de processos como na implementação de sistemas de IA em produtos hospitalares), segurança de produtos dirigidos a menores, aplicação de sistema IA no mercado laboral, gestão de controlo de fronteiras, área judicial e legislativa, área educacional, entre outras.
De acordo com a proposta, os sistemas identificados como sendo de risco elevado deverão recorrer a um sistema de gestão de riscos executado ao longo de todo o seu ciclo de vida que avalie o impacto dos riscos na área correspondente, a identificação e adoção de medidas de mitigação de riscos com vista à sua eliminação ou redução e prestar informações adequadas sobre o serviço, os riscos e as medidas tomadas, tendo sempre em conta o conhecimento técnico, a experiência, a educação do utilizador, bem como o ambiente em que este pretende usar o sistema.
Assim, são requisitos dos sistemas de IA de risco elevado:
- Ser desenvolvidos com base em conjuntos de dados de treino, validação e teste que cumpram os critérios de qualidade estabelecidos no regulamento;
- Apresentar documentação técnica válida antes da sua apresentação ao mercado;
- Arquivação de registos de atividade e de eventos que permitam o controlo do funcionamento do sistema,
- Transparência na prestação de informações aos utilizadores, no que respeita às capacidades ou limitações dos sistemas;
- Inclusão de ferramentas de interface que permitam supervisão humana;
- Incluir níveis de exatidão solidez e cyber segurança quanto aos serviços apresentados e à sua efetiva utilização.
Ora no que respeita aos sistemas de IA de risco inaceitável, é proibida:
- A colocação no mercado, a colocação em serviço ou a utilização de sistema de IA que empregue técnicas subliminares que contornem a consciência de uma pessoa para distorcer substancialmente o seu comportamento de uma forma que cause ou seja suscetível de causar danos físicos ou psicológicos a essa ou a outra pessoa;
- A colocação no mercado, a colocação em serviço ou a utilização de um sistema de IA que explore quaisquer vulnerabilidades de um grupo específico de pessoas associadas à sua idade ou deficiência física ou mental, a fim de distorcer substancialmente o comportamento de uma pessoa pertencente a esse grupo de uma forma que cause ou seja suscetível de causar danos físicos ou psicológicos a essa ou a outra pessoa;
- A colocação no mercado, a colocação em serviço ou a utilização de sistemas de IA por autoridades públicas ou em seu nome para efeitos de avaliação ou classificação da credibilidade de pessoas singulares durante um certo período com base no seu comportamento social ou em características de personalidade ou pessoais, conhecidas ou previsíveis, em que a classificação social conduz a uma das seguintes situações ou a ambas:
1. Tratamento prejudicial ou desfavorável de certas pessoas singulares ou grupos inteiros das mesmas em contextos sociais não relacionados com os contextos nos quais os dados foram originalmente gerados ou recolhidos;
2. Tratamento prejudicial ou desfavorável de certas pessoas singulares ou grupos inteiros das mesmas que é injustificado e desproporcionado face ao seu comportamento social ou à gravidade do mesmo.
- A utilização de sistemas de identificação biométrica à distância em «tempo real» em espaços acessíveis ao público para efeitos de manutenção da ordem pública, salvo se essa utilização for estritamente necessária para a investigação seletiva de potenciais vítimas específicas de crimes, nomeadamente crianças desaparecidas, a prevenção de uma ameaça específica, substancial e iminente à vida ou à segurança física de pessoas singulares ou de um ataque terrorista, ou a deteção, localização, identificação ou instauração de ação penal relativamente a um infrator ou suspeito de uma infração penal.
A proposta prevê também a criação de autoridades de supervisão nacional, bem como a criação do Comité Europeu para a Inteligência Artificia, bem como uma base de dados da EU relativa a sistemas de inteligência artificial de risco elevado autónomos.
Por fim, os fornecedores de sistemas de IA, estarão também sujeitos a obrigações de acompanhamento pós-comercialização, bem como à partilha de informações sobre incidentes e anomalias.
Chamamos a atenção que esta é ainda uma proposta de regulamento, sendo que existem ainda mais passos com vista à aprovação de uma versão final do regulamento. É expectável os próximos passos do processo de aprovação de proposta pela UE ocorram durante o presente ano de 2023, tendo em vista apresentação de um diploma legislativo final aplicável aos seus Estados Membros.
O conteúdo desta informação não constitui aconselhamento jurídico e não deve ser invocado nesse sentido. Aconselhamento específico deve ser procurado sobre as circunstâncias concretas do caso. Se tiver alguma dúvida sobre uma questão de direito Português, não hesite em contactar-nos.