The dataset viewer is not available for this split.
Error code: StreamingRowsError
Exception: CastError
Message: Couldn't cast
archive: string
archive_bytes: int64
archive_sha256: string
indexed_members: int64
verified_members: int64
manifest: string
status: string
error_response_candidate_count: int64
pdf_count: int64
manifest_attempt_count: int64
unclassified_member_count: int64
embedded_manifest_status: string
member_review_record_count: int64
source_link_match_count: int64
embedded_manifest_missing_members: list<item: null>
child 0, item: null
embedded_manifest_missing_member_count: int64
index_sha256: string
fetch_attempts_sha256: string
text_eligible_count: int64
member_count: int64
unlisted_tar_member_count: int64
source_link_unmatched_count: int64
to
{'archive': Value('string'), 'archive_bytes': Value('int64'), 'archive_sha256': Value('string'), 'member_count': Value('int64'), 'pdf_count': Value('int64'), 'text_eligible_count': Value('int64'), 'source_link_match_count': Value('int64'), 'source_link_unmatched_count': Value('int64'), 'manifest_attempt_count': Value('int64'), 'member_review_record_count': Value('int64'), 'embedded_manifest_status': Value('string'), 'embedded_manifest_missing_member_count': Value('int64'), 'embedded_manifest_missing_members': List(Value('null')), 'unlisted_tar_member_count': Value('int64'), 'error_response_candidate_count': Value('int64'), 'unclassified_member_count': Value('int64'), 'index_sha256': Value('string'), 'fetch_attempts_sha256': Value('string'), 'status': Value('string')}
because column names don't match
Traceback: Traceback (most recent call last):
File "/src/services/worker/src/worker/utils.py", line 147, in get_rows_or_raise
return get_rows(
dataset=dataset,
...<4 lines>...
column_names=column_names,
)
File "/src/libs/libcommon/src/libcommon/utils.py", line 272, in decorator
return func(*args, **kwargs)
File "/src/services/worker/src/worker/utils.py", line 127, in get_rows
rows_plus_one = list(itertools.islice(safe_iter(ds, dataset=dataset), rows_max_number + 1))
File "/src/services/worker/src/worker/utils.py", line 483, in safe_iter
yield from ds.decode(False) if ds.features else ds
File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 2951, in __iter__
for key, example in ex_iterable:
^^^^^^^^^^^
File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 2461, in __iter__
for key, pa_table in self._iter_arrow():
~~~~~~~~~~~~~~~~^^
File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 2486, in _iter_arrow
for key, pa_table in self.ex_iterable._iter_arrow():
~~~~~~~~~~~~~~~~~~~~~~~~~~~~^^
File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 547, in _iter_arrow
for key, pa_table in iterator:
^^^^^^^^
File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 430, in _iter_arrow
for key, pa_table in self.generate_tables_fn(**gen_kwags):
~~~~~~~~~~~~~~~~~~~~~~~^^^^^^^^^^^^^
File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/json/json.py", line 343, in _generate_tables
self._cast_table(pa_table, json_field_paths=json_field_paths),
~~~~~~~~~~~~~~~~^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/json/json.py", line 132, in _cast_table
pa_table = table_cast(pa_table, self.info.features.arrow_schema)
File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 2378, in table_cast
return cast_table_to_schema(table, schema)
File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 2306, in cast_table_to_schema
raise CastError(
...<3 lines>...
)
datasets.table.CastError: Couldn't cast
archive: string
archive_bytes: int64
archive_sha256: string
indexed_members: int64
verified_members: int64
manifest: string
status: string
error_response_candidate_count: int64
pdf_count: int64
manifest_attempt_count: int64
unclassified_member_count: int64
embedded_manifest_status: string
member_review_record_count: int64
source_link_match_count: int64
embedded_manifest_missing_members: list<item: null>
child 0, item: null
embedded_manifest_missing_member_count: int64
index_sha256: string
fetch_attempts_sha256: string
text_eligible_count: int64
member_count: int64
unlisted_tar_member_count: int64
source_link_unmatched_count: int64
to
{'archive': Value('string'), 'archive_bytes': Value('int64'), 'archive_sha256': Value('string'), 'member_count': Value('int64'), 'pdf_count': Value('int64'), 'text_eligible_count': Value('int64'), 'source_link_match_count': Value('int64'), 'source_link_unmatched_count': Value('int64'), 'manifest_attempt_count': Value('int64'), 'member_review_record_count': Value('int64'), 'embedded_manifest_status': Value('string'), 'embedded_manifest_missing_member_count': Value('int64'), 'embedded_manifest_missing_members': List(Value('null')), 'unlisted_tar_member_count': Value('int64'), 'error_response_candidate_count': Value('int64'), 'unclassified_member_count': Value('int64'), 'index_sha256': Value('string'), 'fetch_attempts_sha256': Value('string'), 'status': Value('string')}
because column names don't matchNeed help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.
Corpus Legislativo do Senado Federal — camada raw
Release pública dos arquivos de origem do Senado Federal, com índices por membro, tentativas de obtenção e dados de verificação para preservar a proveniência e permitir auditoria independente.
Estado da release
A release está completa: 16 TARs, totalizando 57.294.519.296 bytes (53,36 GiB). Cada TAR foi validado por SHA-256, tamanho, offsets, tamanhos e conjunto de membros; os arquivos e manifests correspondentes foram publicados no Hub. O manifesto da release registra complete e os hashes de cada TAR.
Os 16 pacotes contêm 77.460 membros:
| Classificação | Membros | Tratamento |
|---|---|---|
| PDFs fonte | 77.366 | Indexados e incluídos no pipeline de extração |
| Candidatos HTML a resposta de erro | 91 | Preservados no raw; excluídos da extração de texto automática |
| Resposta de busca de origem | 1 | Preservada e identificada como source_fetch_response |
| Manifesto de controle embutido | 1 | manifesto.csv em part016.tar; não é documento legislativo |
| Membro binário não classificado | 1 | Preservado e marcado para revisão em part010.tar |
A soma dos membros classificados acima corresponde ao conjunto indexado. Não use o membro binário ainda não classificado como documento legislativo.
Arquivos
raw/drive_tarballs/partNNN.tar: TAR original, sem recompressão.manifests/partNNN.csv: índice de membros, offsets, tamanhos, URLs e metadados Senate.manifests/partNNN.fetch_attempts.csv: tentativas e estados registrados para o pacote.manifests/partNNN.index_summary.json: contagens e resumo de indexação.manifests/partNNN.verification.json: resultado da verificação do conjunto de membros e do TAR.release_manifest.json: hashes, tamanhos e estados dos 16 pacotes.
Os arquivos part001.tar a part015.tar não contêm manifesto.csv embutido. Para esses TARs, os nomes com hash foram associados deterministicamente às URLs oficiais do inventário do Senado. part016.tar contém o manifesto embutido. O estado de cada pacote e a classificação por membro estão nos respectivos manifests.
Uso
O download de um TAR requer espaço livre para o pacote correspondente. Para baixar um arquivo específico:
from huggingface_hub import hf_hub_download
path = hf_hub_download(
repo_id="BaruqRodrigues/senado-corpus-raw",
repo_type="dataset",
filename="raw/drive_tarballs/part001.tar",
)
Para auditar primeiro, consulte release_manifest.json, manifests/partNNN.index_summary.json e manifests/partNNN.verification.json. O repositório relacionado com texto, qualidade e divisões está em senado-corpus-text.
Fonte, proveniência e direitos
Origem: pasta de arquivos no Google Drive, com dados associados ao Senado Federal e inventário oficial de URLs. Os manifests mantêm URL, identificadores disponíveis, processo, tipo de registro, ano de consulta, hash e posição no TAR.
Este repositório não declara uma licença uniforme para documentos de origem distintos. Confira a fonte e os direitos aplicáveis antes de redistribuir ou reutilizar cada documento. A publicação é destinada a pesquisa científica e reprodutibilidade.
- Downloads last month
- 235