A importância da literacia em IA apesar da simplificação regulamentar do RIA para o Omnibus Digital Europeu

O Regulamento relativo à Inteligência Artificial e o seu sistema de literacia

O Regulamento (UE) 2024/1689 do Parlamento Europeu e do Conselho, de 13 de junho de 2024 - (doravante, o "Regulamento Europeu de Inteligência Artificial" ou "REIA") estabelece um quadro regulamentar sólido, define os níveis de risco associados aos sistemas de inteligência artificial (IA) e determina as medidas necessárias para a proteção da saúde, segurança e direitos fundamentais consagrados pela UE.

Para atingir estes objectivos, e tendo em conta o contexto volátil e em evolução exponencial da IA, o RIA estabelece um sistema de acções destinadas a formar os intervenientes no ciclo de vida da IA e nos seus resultados.

O regulamento em vigor adopta uma abordagem holística para promover a literacia em IA, que deve ser implementada em três áreas interdependentes:

• Anível europeu: A Comissão Europeia e o Conselho Europeu recebem as competências para promover a literacia em inteligência artificial através de acções destinadas a sensibilizar o público no exercício das suas funções de governação, em conformidade com o artigo 66.
• A nível nacional: O Gabinete de IA e os Estados-Membros devem facilitar a elaboração de códigos de conduta para a aplicação voluntária de medidas de promoção da literacia em IA, em conformidade com o artigo 95.
• A nível interno, pelas empresas e entidades: O artigo 4.º da Lei da IA estabelece que os fornecedores e os responsáveis pela implantação de sistemas de IA devem tomar medidas, a partir de 2 de fevereiro de 2025, para garantir que tanto o seu pessoal interno como os terceiros que actuam em seu nome tenham um nível de competência suficiente em matéria de IA, tendo em conta o contexto previsto de utilização desta tecnologia.

Estas áreas estão inter-relacionadas, uma vez que as orientações a nível europeu devem orientar as estratégias dirigidas às empresas e entidades, enquanto os resultados das acções tomadas a nível nacional devem contribuir para a tomada de decisões estratégicas da Comissão e do Conselho.

A simplificação proposta no Omnibus Digital e a persistência da literacia

No âmbito do pacote regulamentar europeu Digital Omnibus, que visa a simplificação regulamentar no domínio da tecnologia e uma maior harmonização das regras a nível da UE, propõe-se a alteração do artigo 4.º do RIA, que estabelece obrigações de literacia a nível organizacional e que tem atualmente a seguinte redação

Artigo 4. Os fornecedores e os responsáveis pela aplicação dos sistemas de IA devem tomar medidas para assegurar que, na medida do possível, o seu pessoal e outras pessoas responsáveis em seu nome pelo funcionamento e utilização dos sistemas de IA tenham um nível suficiente de competências em matéria de IA, tendo em conta os seus conhecimentos técnicos, experiência, educação e formação, bem como o contexto de utilização previsto dos sistemas de IA e os indivíduos ou grupos de indivíduos a que os sistemas se destinam.

A proposta de alteração à Lei da IA, apresentada em novembro de 2025 e atualmente a aguardar aprovação, visa eliminar o requisito de competência interna em IA, a fim de reduzir os encargos administrativos para as empresas, e substituí-lo por medidas de promoção a nível nacional e europeu. Apresentamos de seguida a proposta de redação do artigo 4.º incluída no Digital Omnibus:

Proposta de redação do artigo 4. A Comissão e os Estados-Membros incentivarão os fornecedores e os responsáveis pela aplicação dos sistemas de IA a adoptarem medidas para assegurar um nível suficiente de conhecimentos sobre a IA por parte do seu pessoal e de outras pessoas envolvidas no funcionamento e na utilização de sistemas de IA em seu nome, tendo em conta os seus conhecimentos técnicos, experiência, educação e formação, bem como o contexto em que os sistemas de IA serão utilizados, e tendo em conta os indivíduos ou grupos de indivíduos a quem esses sistemas se destinam.

No entanto, mesmo que esta simplificação seja aprovada, as acções de literacia em IA continuarão a ser necessárias para que as empresas e entidades assegurem o cumprimento de várias obrigações legais ao abrigo do RIA da UE, bem como para garantir a gestão adequada dos sistemas de IA e a mitigação eficaz dos riscos associados.

Funções organizacionais que requerem formação para cumprimento do RAAI

As actividades de formação em IA, quer para intervenção na implantação e utilização dos resultados, quer nas actividades de conceção e desenvolvimento tecnológico, bem como na implementação, monitorização e melhoria dos sistemas de gestão de risco, são essenciais para garantir um nível adequado de cumprimento da Lei da IA.

Alguns exemplos de cargos cuja formação, adaptada à realidade da organização, é necessária para o cumprimento do RIA são os seguintes

• Direção de topo, para orientar a tomada de decisões e a gestão de um plano de digitalização que tenha em conta a IA, bem como para sensibilizar e facilitar a monitorização dos riscos associados à tecnologia.
• Os diretores de implementação e de aprovisionamento, para antecipar os riscos associados à implementação de sistemas de IA, com o objetivo de evitar o avanço de projectos proibidos ou que apresentem um nível de risco inaceitável para a entidade.
• Os responsáveis pela governação da IA, para garantir um conhecimento adequado da metodologia de classificação e da eventual reclassificação de sistemas como de alto risco, bem como o acompanhamento das avaliações internas de conformidade.
• As pessoas responsáveis pelos produtos e serviços que incorporam sistemas de IA, para garantir a correta aplicação dos procedimentos de gestão do risco, especialmente no que respeita aos controlos de revisão humana, à gestão pós-comercialização e à identificação e gestão de incidentes.
• As pessoas responsáveis pela comunicação e pela experiência do utilizador externo (UX), para a correta aplicação de medidas de transparência relativas à interação com os sistemas de IA e à comunicação das suas caraterísticas, capacidades e limitações.
• Os utilizadores internos dos sistemas de IA, para a aplicação correta das instruções de utilização criadas pelo fornecedor do sistema de IA e, se aplicável, pela pessoa responsável pela implantação, bem como para o cumprimento das limitações relativas às informações fornecidas como entrada e ao conteúdo gerado como saída.
• Departamento jurídico, para identificar os riscos transversais (como os relacionados com a proteção dos dados pessoais, a cibersegurança, a regulamentação relativa aos consumidores, as informações confidenciais, a propriedade intelectual, etc.), bem como para negociar contratos com os fornecedores de sistemas de IA.
• Função de auditoria interna e de conformidade,para compreender os controlos estabelecidos pela regulamentação nacional e internacional (como a ISO 42001) e para verificar a eficácia dos sistemas de governação da IA.

Para além destas funções-chave, uma estratégia adequada de literacia e formação em IA deve ter em conta as caraterísticas específicas de cada empresa ou entidade, que deve receber orientações adequadas para identificar os sistemas de IA em utilização ou em desenvolvimento, determinar a posição da organização na cadeia de abastecimento de IA, avaliar e abordar os riscos de IA, definir as responsabilidades legais associadas a cada sistema e conceber a estrutura de governação necessária.

Conclusões

As actividades de sensibilização e formação relacionadas com o desenvolvimento e utilização de sistemas de IA são essenciais, independentemente de constituírem ou não uma obrigação legal expressa, com o objetivo de prevenir os riscos decorrentes da utilização desta tecnologia e como parte de um sistema abrangente de gestão da conformidade.

Neste sentido, independentemente da aprovação do Omnibus Digital, é necessário que as empresas e entidades definam e integrem medidas de sensibilização e formação como elemento essencial dos seus sistemas de gestão de risco, de forma a evitar sanções administrativas e mitigar potenciais consequências negativas junto de clientes, fornecedores e pessoal interno.

Nota informativa elaborada por Guilherme Sicuto, consultor sénior em governação da IA, privacidade e cibersegurança, departamento TMT, ECIJA Madrid.