Aprendizado vs treinamento em IA: a diferença

Treinamento é um procedimento: um conjunto de dados, uma função de perda, um otimizador e uma execução que atualiza os pesos do modelo até parar. Aprendizado é o resultado que você espera desse procedimento: um comportamento que melhora em dados que o modelo nunca viu. Todo treinamento é uma tentativa de produzir aprendizado, mas uma execução pode rodar por semanas e não aprender nada útil, e existe aprendizado que acontece sem nenhuma execução de treinamento.

No dia a dia, as duas palavras aparecem como sinônimas e quase sempre isso não quebra nada. Elas deixam de ser intercambiáveis no momento em que você está depurando um modelo, calculando custo de computação ou lendo um artigo com atenção.

Aprendizado vs treinamento em resumo

Pergunta	Aprendizado	Treinamento
O que a palavra nomeia	O resultado: o comportamento melhora com a experiência	O procedimento: os pesos são atualizados por um otimizador
Quando acontece	Em todo o ciclo de vida do modelo, inclusive na hora do prompt	Dentro de um job com começo, fim e fatura
O que você mede	Desempenho em dados separados, que o modelo não viu	Curvas de perda, throughput, passos por segundo, custo
Quem usa a palavra	Pesquisadores, artigos, quem descreve capacidade	Engenheiros, times de infraestrutura, quem paga as GPUs
Pode existir sem o outro	Sim: aprendizado em contexto não precisa de treinamento	Sim: uma execução com overfitting treina muito e não generaliza
O que produz	Uma capacidade	Um checkpoint, um arquivo de números

O vocabulário é antigo e a separação já estava lá desde o começo. O artigo de 1986 na Nature, de Rumelhart, Hinton e Williams, que colocou o backpropagation no mapa, se chamava "Learning representations by back-propagating errors": o aprendizado como objetivo, a propagação como mecanismo.

O que o treinamento é de fato

Uma execução de treinamento é mecânica e chata de um jeito que a palavra "aprendizado" esconde. Você passa um lote de exemplos pelo modelo, compara a saída com o alvo usando uma função de perda, calcula os gradientes dessa perda em relação a cada parâmetro e empurra os parâmetros na direção que reduz a perda. Depois faz de novo, milhões de vezes.

Tudo nisso é contável. Tamanho do lote, taxa de aprendizado, número de passos, horas de GPU, dinheiro. Quando alguém numa reunião de engenharia fala "treinamento", normalmente está falando dessa execução e do orçamento dela, não da ideia abstrata de uma máquina ficando mais inteligente.

O treinamento também tem fases claras, cada uma com seu nome:

Pré-treinamento: a execução longa e cara sobre um corpus geral enorme, que produz o modelo base.
Ajuste fino (fine-tuning): uma execução mais curta que adapta um checkpoint existente a uma tarefa ou a um estilo mais estreito.
Ajuste por preferência: treinamento adicional sobre feedback humano ou de outro modelo, para moldar a forma como o modelo responde.

Os três são treinamento. Os três atualizam pesos. A diferença está na escala e nos dados que usam.

O que o aprendizado cobre e o treinamento não

Aqui está a parte que faz a distinção valer a pena. Um modelo pode mudar de comportamento sem nenhuma atualização de pesos.

Coloque três exemplos resolvidos dentro do prompt de um modelo de linguagem e ele quase sempre pega o padrão e aplica num quarto caso. Nada foi salvo. Feche a sessão e o modelo continua sendo o mesmo arquivo, byte por byte. Isso é aprendizado em contexto, e virou uma capacidade de destaque com o artigo do GPT-3, de 2020, de Brown e colegas, cujo título era literalmente "Language Models are Few-Shot Learners". O aprendizado é real no sentido comportamental e completamente ausente no sentido de armazenamento.

Sistemas de recuperação fazem algo parecido pelo outro lado. Ligue um modelo a um repositório de documentos e ele responde perguntas sobre material com o qual nunca foi treinado. O sistema melhorou. O modelo não mudou. Se você disser "treinamos ele com a nossa documentação" quando na verdade montou uma busca em cima dela, vai confundir todo mundo que precisar dar manutenção depois.

A imagem espelhada também existe: treinamento sem aprendizado. Uma execução em que a perda de treino cai enquanto a perda de validação sobe decorou o conjunto de treino. Ela treinou. Não aprendeu, no único sentido que importa, que é o desempenho em dados que ela não viu.

Se você quer a distinção vizinha, entre a execução que constrói o modelo e o momento em que ele responde à sua pergunta, o que muda entre aprendizado e inferência mostra onde os pesos estão congelados e onde não estão.

Qual palavra usar

Use treinamento quando quiser dizer uma execução concreta: os dados dela, o custo, a duração, o arquivo que sai no fim. Se alguém puder perguntar "quando termina?" e esperar uma resposta, a palavra é treinamento.
Use aprendizado quando quiser dizer capacidade: o que o sistema consegue fazer agora e não conseguia antes, medido em algo separado. Se alguém puder perguntar "como você sabe?", a palavra é aprendizado.
Não use nenhuma das duas quando estiver falando de recuperação, de prompt ou de configuração. São justamente os casos em que a palavra errada gera confusão real sobre o que seria preciso mudar para alterar o comportamento.

A outra pergunta por trás dessa busca

Boa parte de quem digita "aprendizado vs treinamento em IA" não está perguntando sobre otimizadores. Está decidindo entre aprender IA por conta própria e se inscrever num curso ou num treinamento estruturado de IA. A comparação é legítima, e a resposta honesta é que os dois caminhos falham de maneiras diferentes.

Um curso estruturado te dá sequência e um motivo para aparecer numa data marcada, o que vale muito se você nunca estudou o assunto e não consegue dizer em que ordem as coisas vêm. O estudo por conta própria é mais rápido e fica colado no que você realmente está construindo, mas escorrega fácil para assistir material em vez de praticar.

A diferença que prevê retenção não é o formato. É se alguém está te pedindo para produzir respostas de memória ou se você só está sendo exposto ao material de novo. Nos experimentos de Roediger e Karpicke, de 2006, os estudantes que usaram parte do tempo de estudo se testando retiveram bem mais uma semana depois do que os que releram as mesmas passagens, mesmo que os releitores se sentissem mais confiantes na hora. Com curso ou sem curso, o conteúdo só gruda se alguma coisa te obrigar a puxá-lo da memória.

Isso é uma restrição prática, não uma questão de mentalidade. Se o seu material é o PDF de um curso, a gravação de uma aula ou as suas próprias anotações, o Qora transforma esse conteúdo numa lição curta mais perguntas escritas a partir dele, com o processamento de foto e áudio acontecendo no seu celular. Se você preferir montar a prática por conta própria, transformar suas anotações em simulado funciona do mesmo jeito sem ferramenta nenhuma. E se você está começando do zero no assunto, um caminho passo a passo para iniciantes é uma primeira parada melhor do que qualquer um dos dois.

Onde essa distinção deixa de ser útil

Na maior parte do tempo, insistir na diferença é preciosismo. "Treinamos um modelo para fazer X" é uma frase perfeitamente boa, e corrigir para "rodamos um procedimento de treinamento que produziu um modelo que aprendeu a fazer X" não ajuda ninguém. Em artigos, posts e texto de produto, as duas palavras são quase sinônimas e o leitor lida bem com isso.

A distinção se paga em exatamente três situações: quando você está diagnosticando por que um modelo não funciona, porque "treinou direitinho" e "não aprendeu nada" são as duas verdadeiras numa execução com overfitting; quando você está estimando custo, porque treinamento é uma linha no orçamento e aprendizado não é; e quando você está decidindo o que mudar, porque um problema que parece falta de conhecimento muitas vezes se resolve com recuperação ou com um prompt melhor, e não com uma execução cara. Fora esses casos, use a palavra que o seu leitor vai entender.

Perguntas frequentes

Treinamento é a mesma coisa que machine learning?

Não. Machine learning é a área e a abordagem geral: construir sistemas que melhoram a partir de dados, e não de regras escritas à mão. Treinamento é uma atividade específica dentro dessa área, a execução em que os parâmetros de um modelo são ajustados. Machine learning também inclui trabalho com dados, avaliação, implantação e monitoramento, e nada disso é treinamento.

A IA continua aprendendo depois do treinamento?

No sentido dos pesos, não, na maioria dos sistemas que você usa hoje. Quando a execução de treinamento termina, o arquivo do modelo fica congelado, e toda conversa começa dos mesmos parâmetros. O que muda entre uma sessão e outra é o contexto: o que você coloca no prompt, o que um sistema de recuperação traz, o que o produto guarda sobre as suas preferências. As empresas lançam modelos atualizados, mas isso é um novo treinamento, não o modelo antigo continuando a aprender.

Qual é a diferença entre treinamento e fine-tuning?

Fine-tuning é treinamento. A diferença é de escopo: o pré-treinamento constrói um modelo geral a partir de um corpus enorme e a um custo alto, enquanto o fine-tuning parte desse checkpoint pronto e o ajusta num conjunto de dados menor e mais estreito, por muito menos. Os dois atualizam pesos e os dois produzem um novo checkpoint. Quando alguém contrapõe "treinamento" a "fine-tuning", quase sempre está chamando o pré-treinamento de treinamento.

Aprendizado em contexto é aprendizado de verdade?

Depende de qual definição você está usando, e é exatamente por isso que vale separar os termos. No sentido comportamental, conta: o modelo executa a tarefa melhor depois de ver os exemplos do que sem eles. No sentido estrutural, não conta: nada fica armazenado, e o efeito some junto com a janela de contexto. As duas frases são verdadeiras ao mesmo tempo, e dizer qual delas você quis dizer evita quase toda a confusão.

O resumo prático: treinamento é um job que você roda, aprendizado é um resultado que você mede, e a distância entre os dois é onde acontece a maior parte da depuração de modelos. Da próxima vez que você for dizer que um sistema "precisa de mais treinamento", verifique primeiro se o comportamento que você quer está faltando nos pesos ou só está faltando no contexto. O segundo problema é mais barato de resolver por várias ordens de grandeza, e é o mais comum dos dois.