A inteligência artificial (IA) é uma tecnologia inovadora que, paulatinamente, se tem integrado o nosso dia-a-dia, tornando as nossas rotinas mais eficientes, levando-nos, inconscientemente, a subestimar o seu papel crucial. Afinal, as suas diversas aplicações vão desde assistentes virtuais (Siri e Alexa), a sistemas de monitoramento do tráfego em tempo real (Waze e Google maps), ao profiling algorítmico para sugestão de conteúdos personalizados (Instagram, Netflix, TikTok, Spotify), ao auxílio no diagnóstico de patologias. No mais, ainda a 11 de setembro de 2024, a Secretária de Estado dos Assuntos Fiscais anunciou que Autoridade Tributária irá munir-se de ferramentas de IA, com o intuito de ver estabelecidos padrões e comportamentos propensos à evasão fiscal, aquando da seleção dos contribuintes alvo de inspeções tributárias.
Um estudo global, prosseguido pela Mckinsey, “The state of AI in early 2024: Gen AI adoption spikes and starts to generate value” demonstra que, em 2024, aproximadamente 72% das empresas já utilizavam IA em, pelo menos, uma das suas áreas de negócio, número que ascendeu consideravelmente desde 2023, conforme estudo desenvolvido pela Standford University, “AI Index Report 2024” [1].
Isto posto, é inquestionável a crescente utilização da IA pelos particulares e, essencialmente, pelas empresas, o que originou várias celeumas éticas acerca da transparência, segurança e privacidade[2]. Foi, nesta senda, que entrou em vigor, a 1 de agosto de 2024, o Regulamento de IA (AI Act)[3], almejando a harmonização da adoção de uma IA centrada no ser humano e na confiança, assegurando, simultaneamente, um elevado nível de proteção da saúde, segurança e dos direitos fundamentais, consagrados na Carta Europeia. Em conformidade com a abordagem e os princípios do AI Act, que adiante se explanarão, a Comissão Europeia assinou, a 5 de setembro de 2024, a Convenção-Quadro do Conselho da Europa sobre a Inteligência Artificial e os Direitos Humanos, a Democracia e o Estado de Direito.
O que é um sistema de IA? Segundo o artigo 3.º, 1) do AI Act, são considerados sistemas de IA, os sistemas de software com as seguintes valências:
- Sistema baseado em máquinas, funcionando através de meios computacionais;
- Sistema dotado de níveis de autonomia variáveis, sendo possível a intervenção humana para efeitos de garantia da conformidade ética, segurança e responsabilização;
- Sistema com capacidade de adaptação após a implementação;
- Sistema capaz de gerar resultados, como previsões, conteúdos, recomendações ou decisões.
Encontram-se excluídos os sistemas de IA utilizados, exclusivamente, para fins de investigação e desenvolvimento científico (I&D), fins militares, de defesa ou segurança nacional.
O IA Act
O Regulamento, amplamente aplicável a partir do dia 2 de agosto de 2026, adota uma abordagem baseada no risco e impõe um conjunto de obrigações, aplicáveis a todos os intervenientes da cadeia de valor da IA, sendo a sua exigência e a medida das respetivas sanções adaptadas ao nível de risco.
- Risco inaceitável: O AI Act contempla as práticas de IA proibidas no Capítulo II, a título de exemplo os sistemas de IA que categorizam individualmente os cidadãos com base nos seus dados biométricos para deduzir ou inferir as suas opiniões políticas, convicções religiosas e outros dados sensíveis;
- Risco Elevado: O AI Act prevê estes sistemas de IA no Capítulo III e Anexos I e III, tratando-se de sistemas que, potencialmente, representam um risco significativo para a segurança, saúde, educação e demais direitos fundamentais, como é o caso de sistemas de IA concebidos para avaliar o risco e fixarem o preço em seguros de saúde. Estes sistemas enaltecem a importância da robustez, cibersegurança e exatidão na utilização de IA, sendo possível mitigar o risco através da criação de um sistema de gestão de risco durante todo o ciclo de vida do sistema e através da supervisão humana;
- Risco Limitado: A estes sistemas de IA, como chatbots e deep fakes, são impostos requisitos de transparência específicos, expostos no Capítulo IV do AI Act, em concreto o prestador do serviço deve ser assegurar que os seus utilizadores são informados de que estão a interagir com um sistema de IA ou marcar os resultados do sistema como sendo gerados ou manipulados artificialmente;
- Risco Mínimo: Demais sistemas de IA que representam um risco mínimo para os direitos fundamentais dos cidadãos, como os filtros no e-mail ou videojogos, sendo possível aos seus prestadores optar por, voluntariamente, adotar códigos de conduta para a sua utilização.
O Regime Sancionatório do AI Act
O incumprimento das disposições do AI Act encontra-se sujeito às coimas previstas no Capítulo XII, aplicáveis a partir do dia 2 de agosto de 2025:
Por forma a incentivar a inovação junto das PME e Startups, além das prerrogativas conferidas em ambiente de teste e canais de comunicação direta, o valor das coimas a ser-lhes aplicado tem como limite o menor entre os valores ante expostos, consoante a infração em causa.
Em suma, a regulação da AI surge como uma resposta essencial à crescente dependência desta tecnologia, a nível pessoal e empresarial. O equilíbrio entre a inovação e a segurança é fundamental para garantir o desenvolvimento científico, sem prejuízo dos direitos fundamentais dos cidadãos, daí a importância dos ambientes de testagem da regulamentação de IA (sandboxes) e realização de testes em condições reais, sob rigorosos requisitos previstos no regulamento. Sem o apoio à investigação, não poderíamos, atualmente, recorrer ao ChatGPT, nem estaríamos a indagar a possibilidade de a IA lograr alcançar a capacidade de raciocínio, através do sigiloso Projeto Strawberry da Open AI. Impera, pois, a necessidade de as empresas adotarem uma atitude proativa e preventiva e se preparem para este novo cenário regulatório, permitindo-lhes integrar a IA nas suas operações, promovendo a confiança dos consumidores e o seu negócio.
por Nuno da Silva Vieira e Ana Peixoto, Área de Prática – TMT – Tecnologia, Media e Telecomunicações
[1] Os estudos podem ser consultados em: https://www.mckinsey.com/capabilities/quantumblack/our-insights/the-state-of-ai#/ e https://aiindex.stanford.edu/report/.
[2] Aliás, a ONU identificou, em relatório publicado a 16 de julho de 2024, a utilização da IA como uma das tendências responsáveis pela aceleração da tripla crise climática. O relatório encontra-se disponível em: https://www.unep.org/resources/global-foresight-report.
[3] Regulamento (UE) 2024/1689 do Parlamento Europeu e do Conselho de 13 de junho de 2024.
