Inferência em IA: o que acontece quando um modelo processa uma entrada

O que significa inferência em aprendizado de máquina

Em aprendizado de máquina, inferência é o processo de usar um modelo treinado para calcular uma saída a partir de uma entrada. A entrada pode ser, por exemplo, o texto de uma solicitação, uma imagem ou uma sequência de palavras. A saída depende da tarefa e do projeto do modelo: pode ser uma categoria, uma pontuação, uma representação numérica ou conteúdo gerado. Por isso, não é adequado definir inferência como se ela sempre consistisse em produzir uma única previsão ou uma resposta em texto.

Uma forma simples de entender o conceito é pensar no modelo como uma função com parâmetros ajustados durante o aprendizado. Na inferência, um dado é fornecido ao modelo, que aplica seus cálculos para produzir uma saída. Em condições habituais, usar o modelo dessa maneira não equivale a treiná-lo novamente nem a modificar seus parâmetros. Essa explicação exige uma ressalva: há sistemas que são atualizados durante o uso ou que combinam várias etapas. Nesses casos, é preciso descrever qual operação está sendo realizada, em vez de presumir que todo o sistema segue uma separação absoluta.

Na documentação técnica, «inferência» também pode designar a execução do modelo dentro de um sistema. Esse sistema pode incluir uma interface, um software de serviço, hardware e configurações, além do modelo. Portanto, inferência não é necessariamente uma tela que exibe uma resposta: pode ser uma operação interna cujos resultados são consumidos por outro programa.

Como funciona: entrada, cálculo e saída

Em termos conceituais, o processo tem três partes. Primeiro, um sistema recebe uma entrada e a prepara no formato que o modelo consegue processar. Depois, o modelo realiza seus cálculos com essa entrada e com os parâmetros adquiridos durante o treinamento. Por fim, o sistema interpreta ou entrega a saída. Em um modelo de texto, por exemplo, a preparação pode incluir a organização do texto em unidades processáveis; em visão computacional, pode envolver a adaptação de uma imagem ao formato esperado. Os detalhes dependem do sistema específico.

A preparação da entrada e a apresentação dos resultados são relevantes, mas não devem ser automaticamente confundidas com o cálculo do modelo. Um aplicativo pode adicionar regras antes ou depois de chamá-lo, combinar seus resultados com outros dados ou exibir apenas parte do que foi produzido. Para descobrir exatamente o que um serviço fez, é preciso distinguir o que cabe ao modelo do que cabe ao software que o envolve.

Esse esquema tampouco significa que cada entrada sempre gere uma saída única e idêntica. Em alguns sistemas, as configurações determinam como a saída é selecionada ou organizada; na geração de texto, uma chamada pode produzir uma sequência de tokens. A palavra «inferência» designa o uso do modelo, não uma garantia de que o resultado seja determinístico ou descreva corretamente o mundo.

Que tipos de saída podem ser produzidos

Uma saída comum é uma previsão de classe, como atribuir uma solicitação a uma categoria. Também pode ser uma pontuação associada a uma opção ou a um exemplo. Essa pontuação não deve ser interpretada automaticamente como uma probabilidade: para isso, seria necessário saber o que ela representa, como foi obtida e se está calibrada para o uso pretendido.

Outros modelos produzem representações numéricas dos dados, muitas vezes chamadas de embeddings. Uma representação desse tipo pode ser usada em tarefas posteriores, como comparar elementos ou recuperar conteúdo semelhante, mas não é necessariamente uma resposta legível por uma pessoa. A designação «inferência» pode abranger o cálculo dessa representação, embora o aplicativo real inclua outras etapas depois dele.

Em um modelo generativo, a saída pode ser conteúdo novo em relação à entrada, como uma continuação de texto. «Novo», nesse caso, descreve o fato de o sistema gerar uma sequência de saída; não demonstra que o conteúdo seja original em sentido jurídico, factual ou histórico. Também não indica, por si só, se o resultado é verdadeiro, útil ou adequado.

Exemplo: classificar uma solicitação de atendimento ao cliente

Imagine uma organização que recebe mensagens e quer encaminhar cada uma para a equipe adequada. O texto «Não reconheço esta cobrança na minha fatura» é fornecido a um classificador treinado para atribuir categorias. Durante a inferência, o modelo processa o texto e pode retornar um rótulo, como «faturamento», talvez acompanhado de pontuações para outras categorias. O rótulo pode ajudar a sugerir um encaminhamento; não é necessariamente a decisão final.

Em um serviço real, o fluxo poderia primeiro verificar se a mensagem contém texto utilizável e, depois, aplicar regras de encaminhamento. Se a mensagem for ambígua, se a categoria prevista não existir ou se o sistema não estiver preparado para aquele idioma, a saída pode não resolver o caso. Este exemplo ilustra um possível uso da classificação: não afirma que todo modelo de linguagem ou sistema de atendimento ao cliente tenha essa capacidade.

Exemplo: localizar um objeto ou defeito em uma imagem

Em uma aplicação de visão industrial, uma imagem de uma peça poderia ser enviada a um modelo preparado para detectar defeitos. A saída poderia se limitar a uma classificação, como «com defeito» ou «sem defeito», ou incluir a localização das regiões consideradas relevantes pelo modelo. O que ele consegue retornar depende da tarefa para a qual foi projetado e treinado: nem todos os modelos de visão localizam objetos, e nem todos os sistemas que classificam imagens identificam a posição de um defeito.

Nesse exemplo, inferência é o cálculo realizado ao processar uma imagem específica. A câmera, o controle de iluminação, o pré-processamento e a decisão de retirar uma peça podem pertencer a partes diferentes do sistema. Uma saída do modelo, por si só, não prova que a peça esteja com defeito. É importante conhecer as condições de captura, as categorias consideradas e o desempenho medido em situações semelhantes às de uso.

Exemplo: gerar uma continuação de texto

Na geração de texto, uma pessoa pode fornecer uma instrução e um contexto, e o modelo produzir uma continuação. Por exemplo, diante de «Resuma este aviso em duas frases:», o sistema pode gerar uma proposta de resumo. Nesse caso, a saída não precisa ser um único rótulo: pode ser uma sequência de tokens que forma um texto. Inferência descreve a execução do modelo com o contexto disponível, não uma busca automática pela resposta verdadeira.

Uma chamada de inferência a um modelo de linguagem não equivale necessariamente a atualizá-lo com a conversa. Nas descrições de inferência de modelos de linguagem, distingue-se a geração a partir de novas instruções da alteração dos parâmetros. Ainda assim, o contexto enviado pode influenciar a resposta, e um aplicativo pode gerenciar ou armazenar dados por meio de componentes que não fazem parte do cálculo do modelo. Não se deve confundir «o modelo não é atualizado nesta chamada» com «o sistema não conserva nenhum dado»: essa segunda questão depende do serviço e de suas políticas.

Inferência, treinamento, avaliação e previsão

Treinar é ajustar os parâmetros do modelo com base em dados e em um procedimento de aprendizado. Inferir, no sentido habitual em aprendizado de máquina, é usar o modelo resultante para calcular saídas a partir de entradas. Em uma descrição de aprendizado supervisionado, o modelo pode ser entendido como uma função com parâmetros que um algoritmo de aprendizado otimiza durante o treinamento. Essa distinção é útil, embora alguns sistemas incluam adaptação ou aprendizado on-line e exijam que se especifique quando o modelo é atualizado.

Avaliar é medir como um modelo ou sistema se comporta com dados e critérios definidos. Essa medição pode ocorrer durante o desenvolvimento ou depois dele, mas não é sinônimo de executar uma inferência. Uma previsão é uma possível saída do processo; «inferência» designa o processo de obter saídas usando o modelo. Na prática, os termos às vezes são usados de forma ampla, por isso convém verificar qual operação cada documentação descreve.

Em estatística e lógica, «inferência» tem usos mais amplos: costuma se referir à extração de conclusões a partir de dados, premissas ou de um modelo de incerteza. A inferência bayesiana é um exemplo de uso estatístico relacionado ao aprendizado de máquina. Não se deve presumir que toda ocorrência do termo signifique executar um modelo treinado sobre uma nova entrada. O significado depende do campo e da tarefa descrita.

O que uma saída não comprova

O fato de um modelo ter produzido uma saída não prova que ela esteja correta. Um classificador pode errar, uma localização pode não corresponder ao objeto procurado e um texto gerado pode conter afirmações falsas. A qualidade depende, entre outros fatores, dos dados e dos objetivos de treinamento, da entrada específica, das configurações e da adequação do modelo à tarefa. Nenhuma dessas considerações permite concluir que um resultado específico seja confiável sem avaliá-lo.

Uma pontuação também não deve ser equiparada a uma probabilidade calibrada, a menos que a documentação e a validação sustentem essa interpretação. Uma pontuação pode ser um sinal útil para ordenar opções, mas sua escala e seu significado podem variar entre sistemas. Da mesma forma, uma previsão não é uma explicação causal nem uma observação direta da realidade: é uma saída calculada pelo modelo.

A representatividade importa. Se uma imagem, um texto ou uma solicitação diferir dos dados e das condições em que o sistema foi testado, seu comportamento poderá ser diferente. Em aplicações de alto impacto, a saída pode exigir revisão humana, testes no ambiente de uso e procedimentos para lidar com erros. Inferência é uma descrição do processo computacional, não uma certificação de segurança, imparcialidade ou validade.

Serviço de inferência, latência e custo

«Serviço de inferência» costuma designar a infraestrutura que permite enviar entradas a um modelo e receber saídas. Ele pode ser executado em um servidor remoto, em um dispositivo local ou em outra configuração. O serviço não é o modelo em si, embora ambos façam parte da experiência de uso. Para entender uma descrição técnica, pode ser necessário descobrir onde o modelo é executado, quais dados recebe e quais componentes transformam a entrada ou a saída.

Latência, custo e uso de memória podem ser importantes na implantação da inferência, mas não têm valores universais. Dependem do modelo, do hardware, do tamanho das entradas e saídas, das configurações e da carga de trabalho, entre outras condições. O fato de uma documentação mencionar esses desafios não permite concluir que todos os modelos tenham o mesmo custo ou que uma forma de implantação seja sempre mais rápida. Para comparar, é preciso especificar o caso de uso e medi-lo em condições pertinentes.

Conceitos relacionados e critérios práticos

Previsão é um tipo possível de saída; geração descreve a produção de conteúdo; um embedding é uma representação que pode alimentar outros processos. Treinamento designa o ajuste do modelo, e avaliação, a medição de seu comportamento. Latência é o tempo que uma operação leva para responder em determinadas condições, enquanto um serviço de inferência é o ambiente que recebe solicitações e executa ou coordena o cálculo. Esses conceitos podem aparecer juntos, mas não são intercambiáveis.

Ao ler uma ficha, uma API ou uma explicação sobre um modelo, comece identificando qual é a entrada e qual saída ele realmente retorna. Verifique se o sistema executa um modelo fixo ou se há atualização durante o uso; procure saber o que as pontuações significam e se o sistema foi avaliado para a tarefa e a população pertinentes. Se o assunto for geração, não trate fluência como prova de veracidade. Se for classificação, não presuma que o modelo consiga explicar ou localizar aquilo que classifica.

A palavra «inferência» também pode ter um significado técnico específico em estatística, lógica ou métodos bayesianos. Se o texto não deixar claro qual sentido está sendo usado, convém consultar o contexto, o método e a documentação correspondente. A documentação analisada permite descrever a ideia geral de usar um modelo treinado e reconhece usos especializados, mas não estabelece uma definição única que abranja todos os campos nem resolve todos os casos de sistemas adaptativos.

Conceitos relacionados