Literacia em IA ao abrigo do AI Act: como conceber formação útil e documentá-la

A literacia em IA não se resume a concluir um curso

A literacia em inteligência artificial é a capacidade prática de compreender um sistema de IA e utilizá-lo com critério no contexto de trabalho. Para uma organização, isso pode incluir saber que tarefa é delegada ao sistema, quais são os seus limites, que informação pode receber, como verificar uma resposta e a quem recorrer quando algo não parece correto. Não equivale a dominar a engenharia de modelos nem, por si só, a obter uma certificação.

O artigo 4.º do Regulamento da Inteligência Artificial da União Europeia — conhecido como AI Act — é o ponto de partida normativo para esta obrigação. A Comissão Europeia publica perguntas e respostas específicas sobre literacia em IA e o artigo 4.º. A AESIA também disponibiliza uma página institucional de perguntas e respostas sobre o mesmo artigo. Estas fontes ajudam a orientar a leitura, mas não substituem a consulta do texto legal em vigor quando for necessário determinar que obrigações se aplicam a uma organização concreta.

Convém distinguir três planos. O primeiro é o que estabelece a lei: deve ser confirmado no texto oficial e nos esclarecimentos institucionais aplicáveis. O segundo corresponde às decisões de conceção tomadas por cada organização, como dividir a formação por funções ou recorrer a exercícios. O terceiro é a evidência interna conservada para gerir o programa. Uma boa prática do segundo ou do terceiro plano não deve ser apresentada como uma exigência expressa do Regulamento se a fonte legal consultada não o disser.

A literacia também não deve ser confundida com outras medidas de governação. Formar as pessoas não substitui os controlos técnicos, as regras de utilização, a supervisão aplicável nem a avaliação de riscos. É uma componente de uma gestão responsável, não uma solução que, por si só, garanta que o sistema é seguro ou que todas as pessoas detetam todos os seus erros.

Primeiro, delimitar a obrigação e o calendário

Antes de conceber um curso, é necessário confirmar se a organização e as pessoas em causa estão abrangidas pelo âmbito descrito na lei. As fontes fornecidas apontam para fornecedores e responsáveis pela implantação de sistemas de IA, mas não são suficientes para determinar o papel regulatório de cada entidade nem para resolver todos os casos-limite. Uma mesma organização pode desempenhar papéis diferentes consoante o sistema, o processo e a relação com terceiros. Não convém inferir a sua classificação a partir de uma designação interna como «utilizador» ou «cliente».

A verificação deve ser feita com base na versão em vigor do Regulamento e nas orientações institucionais pertinentes. Confirme a disposição exata, os seus destinatários, a relação que deve existir com o sistema e as condições descritas. Se houver dúvidas sobre o papel de uma entidade, o tipo de atividade ou a aplicação temporal, registe a questão e encaminhe-a para aconselhamento jurídico qualificado. Este guia não determina esse papel nem fornece uma conclusão jurídica individual.

O calendário deve ser verificado separadamente. Nos materiais disponíveis, a Comissão Europeia e a AESIA confirmam que as respetivas páginas abordam o artigo 4.º, mas os excertos fornecidos não confirmam uma data concreta de aplicação. Por rigor, não se deve transformar uma data repetida numa fonte secundária numa conclusão baseada nestas evidências. Consulte o calendário no texto oficial e registe a versão e a data de consulta utilizadas pela organização.

Também é necessário distinguir entre uma obrigação geral de adotar medidas e uma lista detalhada de conteúdos ou formatos. Segundo o resumo disponível, a AESIA indica que não existe uma dimensão única para a literacia em IA e que não se pretende impor requisitos estritos. Isto sustenta uma conceção contextual, mas não elimina a necessidade de verificar o âmbito jurídico exato nem permite afirmar que qualquer iniciativa de formação seja suficiente.

Mapear tarefas reais antes de atribuir formação

Um programa igual para toda a organização pode deixar de fora as decisões mais importantes para cada função. Antes de preparar conteúdos, faça um inventário dos sistemas e processos em que a IA é utilizada e descreva o que cada pessoa faz nesses contextos. O objetivo não é classificar as pessoas pelo seu prestígio técnico, mas identificar o que precisam de saber para desempenhar as suas tarefas de forma informada.

Para cada utilização, anote a finalidade, as pessoas que interagem com o sistema, os tipos de dados que introduzem ou consultam, o grau de autonomia do sistema e as consequências de um resultado incorreto. Inclua tanto ferramentas adquiridas a terceiros como sistemas desenvolvidos internamente, se fizerem parte das utilizações a analisar. Se o funcionamento ou o âmbito de uma ferramenta não forem bem conhecidos, essa falta de informação deve constar como uma questão por resolver, em vez de ficar escondida por detrás de uma sessão genérica.

A matriz seguinte é uma ferramenta de planeamento interno, não uma classificação jurídica nem uma avaliação de conformidade. As suas colunas ajudam a decidir que conteúdos são pertinentes e onde são necessários controlos adicionais. A avaliação do impacto deve ser adaptada ao processo e não substitui as avaliações formais que possam ser aplicáveis.

Conceber módulos associados a decisões concretas

Depois de mapear as utilizações, organize os conteúdos em torno de competências que a pessoa possa demonstrar no trabalho. Não é necessário que cada grupo estude todos os aspetos com a mesma profundidade. Quem utiliza uma ferramenta para redigir rascunhos precisa de reconhecer erros plausíveis e proteger a informação; quem configura integrações pode precisar de controlos técnicos e procedimentos de alteração. A adaptação aos conhecimentos, à experiência, à formação e ao contexto de utilização é uma orientação coerente com a abordagem contextual descrita pela AESIA, embora a organização deva consultar as fontes oficiais para determinar com precisão o que o texto legal exige.

O módulo sobre capacidades e limites deve explicar que tarefa o sistema desempenha, o que não pode garantir e que sinais aconselham prudência. Evite afirmações absolutas como «acerta sempre» ou «nunca conserva dados» se não forem sustentadas por informação verificada do fornecedor e pelas condições reais de configuração. Ensine a distinguir uma resposta bem redigida de uma resposta verificada.

A revisão dos resultados deve ser proporcional às suas consequências. Uma verificação superficial pode bastar para um rascunho interno de baixo impacto; não é adequada se uma resposta influenciar uma decisão sensível. A pessoa deve saber que fontes de comparação utilizar, que partes verificar e o que fazer quando não consegue confirmar uma afirmação. Se o processo exigir uma decisão humana, a revisão deve dispor de tempo, informação e autoridade suficientes: assinalar uma caixa sem possibilidade real de questionar o resultado não é uma prática útil.

O tratamento da informação deve estar ligado às regras internas e às condições autorizadas para cada ferramenta. O pessoal precisa de saber que dados pode introduzir, que dados deve excluir, como identificar informação sensível e onde colocar perguntas em caso de dúvida. Não se deve presumir que todos os sistemas têm as mesmas práticas de conservação, utilização das entradas ou configuração da privacidade.

Por fim, todas as pessoas devem conhecer uma via de encaminhamento clara. Especifique que comportamentos exigem a interrupção de um fluxo, quem recebe o aviso, que informação deve ser conservada e que alternativa se utiliza enquanto a situação é investigada. A formação perde valor se uma pessoa detetar um problema, mas não souber a quem comunicá-lo ou recear que a comunicação de um erro seja considerada uma falha individual.

Praticar com situações de trabalho

A formação é mais fácil de aplicar quando permite praticar decisões reconhecíveis. Os exemplos não têm de reproduzir casos reais com dados pessoais: podem utilizar informação sintética ou materiais aprovados. Devem apresentar uma tarefa, um resultado imperfeito e uma escolha que o participante tenha de explicar. Assim, é possível observar se sabe aplicar as instruções, e não apenas se recorda determinados termos.

Um primeiro exercício pode pedir ao participante que compare uma resposta com uma fonte autorizada. Outro pode apresentar um pedido que inclua dados que não deveriam ser partilhados com a ferramenta utilizada e pedir ao participante que reformule a tarefa ou escolha uma alternativa. Um terceiro pode simular um resultado contraditório com o procedimento interno. A resposta esperada nem sempre será corrigir o resultado: por vezes será parar, pedir uma revisão ou não utilizar o sistema para essa tarefa.

Avalie o que a pessoa faz e o raciocínio prático que comunica. Um registo de presenças, um inquérito de satisfação ou um certificado de conclusão podem fornecer informação administrativa, mas não demonstram, por si só, que a pessoa sabe detetar uma resposta duvidosa. Como recomendação operacional, utilize uma lista breve de comportamentos observáveis: verificar, proteger dados, reconhecer limites e encaminhar. Trate os resultados como sinais para melhorar o programa, não como garantia universal de competência.

Documentar o programa sem confundir o registo com a conformidade

As fontes fornecidas não permitem afirmar que documentação o artigo 4.º exige expressamente, nem se o Regulamento determina um formato, um registo de presenças ou uma prova específica. Por conseguinte, a lista abaixo deve ser entendida como uma proposta de gestão interna, não como uma obrigação documental legal. Consulte o texto oficial e as orientações aplicáveis antes de apresentar qualquer um desses elementos como requisito.

Um registo proporcionado pode ajudar a saber quem recebeu que conteúdos, para que utilização foram preparados, quando foram ministrados e que alterações são necessárias. Convém conservar uma versão dos materiais e anotar quem aprovou o módulo, quando foi atualizado e que dúvidas continuam por resolver. Se forem registados a participação ou os resultados dos exercícios, limite a informação ao necessário, controle o acesso e respeite as políticas aplicáveis de privacidade e conservação.

A documentação deve ser útil para aprender e corrigir, não apenas para acumular ficheiros. Se um incidente revelar que várias pessoas não sabiam como verificar uma resposta, atualize o conteúdo e reveja o processo que permitiu que o problema avançasse. Não utilize um registo de presenças como prova automática de que uma pessoa compreendeu os limites do sistema, nem como demonstração de que toda a organização está em conformidade. A formação não transfere a responsabilidade da organização para quem utiliza uma ferramenta.

Atualizar quando o sistema ou o trabalho mudarem

Um módulo pode ficar desatualizado mesmo que o nome comercial da ferramenta não mude. Reveja o programa quando forem alterados o sistema, a sua finalidade, a configuração, os dados que processa, o grupo de utilizadores ou o papel que desempenha numa decisão. Também é aconselhável revê-lo quando mudarem as instruções internas, forem detetados erros repetidos ou as pessoas não souberem como encaminhar um incidente.

A revisão não exige repetir toda a formação para todo o pessoal sempre que houver uma alteração. Identifique o que mudou, que funções são afetadas e que conduta deve ser atualizada. Pode bastar uma instrução específica para um grupo, um novo exercício ou uma alteração do procedimento. Se a mudança alterar significativamente a utilização ou as suas consequências, poderá ser necessário reavaliar se o conteúdo anterior continua adequado.

Defina sinais práticos para detetar necessidades por satisfazer: perguntas frequentes sobre dados, resultados copiados sem verificação, confusão entre uma sugestão e uma decisão, utilização fora da finalidade prevista ou dificuldade em encontrar o canal de encaminhamento. Estes sinais são ferramentas de melhoria interna; não constituem, por si só, critérios jurídicos nem substituem a avaliação de riscos aplicável.

Lista de verificação e limites

Antes de implementar o plano, confirme que identificou as utilizações reais de IA e as funções que interagem com elas; que verificou o âmbito e o calendário no texto oficial em vigor; e que cada módulo ensina comportamentos observáveis relacionados com uma tarefa. Confirme também que as pessoas conhecem os limites das ferramentas que utilizam, as regras de tratamento da informação e uma via clara para interromper e encaminhar um caso duvidoso.

Certifique-se de que há um responsável pelo conteúdo, uma forma de rever os materiais e um mecanismo para recolher dúvidas. Conserve documentação interna proporcionada e claramente distinguida das provas que a lei possa exigir, se for o caso. Quando não conseguir verificar um ponto jurídico com as fontes institucionais disponíveis, assinale-o como pendente em vez de o preencher com uma afirmação de uma fonte secundária.

A formação não corrige controlos técnicos insuficientes, não torna adequada uma utilização que não o era e não garante que uma pessoa identifique todos os resultados incorretos. Também não determina, por si só, o papel regulatório da organização nem substitui a revisão jurídica. A sua função é reforçar a capacidade das pessoas para compreenderem a utilização concreta, agirem com prudência e pedirem ajuda. O passo seguinte razoável é combinar esse trabalho com os processos de segurança e governação existentes e rever as orientações oficiais quando o enquadramento normativo mudar.

Continue a explorar

Correções e transparência

Se encontrar informação incorreta ou desatualizada, envie-nos a página e a fonte que devemos rever.