Datasets:
id stringlengths 9 13 | title stringlengths 1 87 | text stringlengths 133 180k | token_count int64 52 36.3k |
|---|---|---|---|
wiki_pt_0 | Astronomia | Astronomia é uma ciência natural que estuda corpos celestes (como estrelas, planetas, cometas, nebulosas, aglomerados de estrelas, galáxias) e fenômenos que se originam fora da atmosfera da Terra (como a radiação cósmica de fundo em micro-ondas). Preocupada com a evolução, a física e a química de objetos celestes, bem ... | 4,199 |
wiki_pt_1 | América Latina | A América Latina (; ) é uma região do continente americano que engloba os países onde são faladas, primordialmente, línguas românicas (derivadas do latim) no caso, o espanhol, o português e o francês visto que, historicamente, a região foi maioritariamente dominada pelos impérios coloniais europeus Espanhol e Português... | 14,366 |
wiki_pt_2 | Albino Forjaz de Sampaio | Albino Maria Pereira Forjaz de Sampaio (Lisboa, 19 de Janeiro de 1884 Lisboa, 13 de Março de 1949) foi um escritor e bibliógrafo português, autor de um dos livros mais vendidos em Portugal durante o século XX, Palavras Cínicas, lançado em 1905, que à morte do autor tinha já 46 edições. Início de carreira Albino Forjaz ... | 2,865 |
wiki_pt_3 | Anno Domini | Anno Domini (A.D.) é uma expressão em latim que significa "no ano do Senhor" e é utilizada para marcar os anos seguintes ao ano 1 do calendário mais comumente utilizado no Ocidente, designado como "Era Cristã" ou, ainda, como "Era Comum". Aparecia em inscrições latinas e ainda é usada na língua inglesa, correspondendo ... | 2,540 |
wiki_pt_4 | Aquiles | Aquiles (), na mitologia grega, foi um herói da Grécia, um dos participantes da Guerra de Troia e o protagonista e maior guerreiro da Ilíada, de Homero. Aquiles tem ainda a característica de ser loiro e o mais belo dos heróis reunidos contra Troia, assim como o melhor entre eles. A figura de Aquiles foi sendo moldada p... | 7,699 |
wiki_pt_5 | Anarcocapitalismo | Anarcocapitalismo (também conhecido como anarquismo de livre mercado ou anarquismo de propriedade privada) é uma filosofia política libertária que defende o direito a soberania do indivíduo através da propriedade privada e do livre mercado. Os anarcocapitalistas buscam abolir os estados centralizados em favor de socied... | 5,566 |
wiki_pt_6 | Anarquismo | "Anarquismo é uma ideologia política que se opõe a todo tipo de hierarquia e dominação, seja el(...TRUNCATED) | 22,777 |
wiki_pt_7 | Albert Einstein | "Albert Einstein (Ulm, 14 de março de 1879 Princeton, 18 de abril de 1955) foi um físico teórico (...TRUNCATED) | 15,234 |
wiki_pt_8 | Aquecimento global | "Aquecimento global é o processo de aumento da temperatura média dos oceanos e da atmosfera da Ter(...TRUNCATED) | 17,491 |
wiki_pt_9 | Abel (desambiguação) | "Abel personagem bíblico Abel (filme) filme de 1986 Prémio Abel prémio dado a matemáticos em hom(...TRUNCATED) | 94 |
📚 Wikipedia PT 60M
Wikipedia PT 60M é um corpus em português desenvolvido pela Comunidade Synapse BR para o pré-treinamento e treinamento contínuo de modelos de linguagem (LLMs).
O dataset foi organizado para fornecer uma grande quantidade de texto em português, sendo adequado para pesquisas em Processamento de Linguagem Natural (NLP), treinamento de modelos generativos e experimentos envolvendo Modelagem de Linguagem Causal (Causal Language Modeling).
📖 Visão Geral
Este corpus foi preparado para aplicações que exigem grandes volumes de texto em português.
Entre os principais casos de uso estão:
- 🤖 Pré-treinamento de modelos GPT
- 🔄 Continual Pretraining
- 📝 Geração de texto
- 📚 Modelagem de Linguagem Causal
- 🔬 Pesquisa em NLP
- 🎓 Projetos acadêmicos
- 🧠 Desenvolvimento de modelos de linguagem
📊 Características
| Propriedade | Valor |
|---|---|
| Idioma | Português |
| Fonte | Wikipédia |
| Formato | Texto |
| Campo principal | text |
| Aplicação | Pré-treinamento de LLMs |
📂 Formato dos Dados
Cada registro possui um único campo contendo um trecho de texto.
Exemplo:
{
"text": "A Wikipédia é uma enciclopédia livre..."
}
O dataset pode ser carregado diretamente utilizando a biblioteca datasets da Hugging Face.
💡 Casos de Uso
Este dataset pode ser utilizado para:
- Pré-treinamento de modelos GPT
- Continual Pretraining
- Fine-tuning de LLMs
- Pesquisa em NLP
- Estudos linguísticos
- Benchmarking
- Tokenização
- Desenvolvimento de modelos em português
⚠️ Considerações
Por ser baseado na Wikipédia, o corpus herda suas características naturais, incluindo:
- Linguagem predominantemente enciclopédica
- Cobertura variada de assuntos
- Possíveis inconsistências entre artigos
- Conteúdo atualizado conforme a Wikipédia evolui
Dependendo da aplicação, recomenda-se combinar este corpus com outras fontes textuais para aumentar a diversidade dos dados de treinamento.
📜 Licença
Este dataset é distribuído sob a licença cc-by-sa-4.0.
Verifique também as condições de uso do conteúdo original da Wikipédia antes de utilizá-lo em aplicações específicas.
🤝 Sobre a Comunidade Synapse BR
A Comunidade Synapse BR é uma iniciativa brasileira dedicada ao desenvolvimento de modelos de inteligência artificial, datasets e ferramentas de código aberto.
Nossa missão é tornar a inteligência artificial mais acessível por meio de soluções abertas, eficientes e de alta qualidade, fortalecendo o ecossistema brasileiro de IA.
Contribuições, sugestões e relatos de problemas são sempre bem-vindos.
- Downloads last month
- 70