NVIDIA e o Instituto Indiano de Tecnologia de Madras (IIT Madras), por meio do laboratório AI4Bharat, apresentaram o Nemotron-pretraining-Indic-v1, um conjunto de dados de pré-treinamento com aproximadamente 2,8 trilhões de tokens distribuídos em 22 idiomas indianos. A divulgação ocorreu em outubro de 2026, no blog da NVIDIA no Hugging Face, com assinatura conjunta de pesquisadores das duas instituições.
O anúncio não se limita ao corpus: descreve toda a receita usada para construí-lo, incluindo prompts, fluxos de trabalho com modelos de linguagem e etapas de checagem de qualidade, e promete liberar também o pipeline que gerou os dados.
Pelo lado do AI4Bharat, assinam a publicação Mohammed Safi Ur Rahman Khan, Mitesh Khapra e Anoop Kunchukuttan. Pela NVIDIA, são autores Niket Agarwal, Raviraj Joshi, Anusha Kamath, Markus Kliegl, Yev Meyer, Sriharsha Niverty, Kiran Praveen, Utkarsh Vaidya e outros colaboradores.
O lançamento do dataset está previsto para breve e vem acompanhado do pipeline aberto de geração de dados, acelerado por GPU, que foi usado em sua produção — um detalhe que separa este anúncio de uma simples liberação de arquivos.
22 idiomas e quase 1,2 bilhão de falantes
Os 22 idiomas contemplados são exatamente aqueles listados na Constituição da Índia. Conforme o Censo indiano de 2011, citado no material, essas línguas são a primeira língua de 97% dos indianos, o que corresponde a quase 1,2 bilhão de cidadãos.
Para quem treina modelos de linguagem, o número importa porque desloca o eixo do pré-treinamento de um universo dominado pelo inglês e por um punhado de idiomas europeus para um território onde a escassez de dados sempre foi o principal gargalo. É material suficiente para sustentar modelos de base em línguas que raramente aparecem em corpora multilíngues de grande porte.
Dados em escrita nativa cobrem as 22 línguas; dados romanizados cobrem doze delas. A distinção é relevante na prática: boa parte da produção textual em idiomas indianos circula na internet em alfabeto latino, em registros informais e conversacionais.
Um corpus restrito à escrita nativa deixaria esse volume de fora e produziria modelos piores justamente nos usos mais cotidianos.
Pipeline aberto e acelerado por GPU
Além do corpus, a dupla libera o pipeline de geração de dados que deu origem ao conjunto. A ferramenta é descrita como aberta e acelerada por GPU e cobre três frentes: tradução, avaliação de qualidade e reparo dos textos.
Como a receita completa está documentada, prompts, fluxos com LLMs e verificações,, desenvolvedores podem adaptá-la ao próprio acervo e produzir dados de pré-treinamento para idiomas ou domínios específicos, sem depender de um processo proprietário montado internamente.
Por que isso importa
Modelos de linguagem de grande porte seguem concentrando capacidade de forma desproporcional em inglês, e um dos motivos é o custo de reunir dados limpos em volume suficiente. Um corpus de 2,8 trilhões de tokens em 22 idiomas ataca justamente essa etapa do problema.
A parceria também sinaliza uma articulação entre indústria e academia: a NVIDIA entra com a infraestrutura de GPU, enquanto o IIT Madras e o AI4Bharat contribuem com conhecimento linguístico e pesquisa aplicada.
Para equipes que trabalham com idiomas de baixo recurso, o componente mais reaproveitável talvez seja o pipeline, e não o corpus em si. A documentação do processo de tradução, avaliação e reparo permite replicar a mesma lógica em outros contextos linguísticos, desde que haja material de origem adequado e capacidade de processamento em GPU.
É essa combinação, dados em escala e método aberto, que o anúncio coloca à disposição de quem constrói modelos.
