Modelos de Linguagem
QLoRA em GPU de 16 GB: memória e treino passo a passo
Aprenda a organizar um teste de QLoRA em GPU de 16 GB, medir memória, preparar dados e salvar…
modelos de linguagem
Assuntos relacionados
27 matérias
Modelos de Linguagem
Roteamento de modelos por complexidade: custo e qualidade
Aprenda a rotear prompts por complexidade, comparar modelos e medir o custo por resposta aprovada sem esconder repetições…
Modelos de Linguagem
Como avaliar latência e TTFT em produção com vLLM
Aprenda a medir latência e TTFT no vLLM, comparar percentis, testar cargas reais e localizar gargalos sem perder…
Modelos de Linguagem
Fine-tuning de modelos abertos para classificação de decisões em tribunais de justiça
Aprenda a preparar datasets e treinar adaptadores LoRA para classificar decisões monocráticas e recursos no TJSP e TJRJ…
Modelos de Linguagem
IA em português: como avaliar a qualidade, fluência e acurácia de modelos
Aprenda a avaliar a qualidade de LLMs em portugues brasileiro, medindo compreensao gramatical, termos tecnicos, expressoes regionais e…
Modelos de Linguagem
Benchmarks de IA: MMLU, GSM8K, MATH e o que eles realmente medem
MMLU, GSM8K, MATH, HumanEval e GPQA: entenda o que cada teste mede de verdade, os limites de memorizacao…
Modelos de Linguagem
Fine-tuning ou RAG: quando treinar um modelo próprio e quando buscar documentos
Descubra a diferença prática entre ajuste fino (fine-tuning) e recuperação aumentada de geração (RAG). Saiba qual abordagem escolher…