Datasets:

openpecha
/

tibetan-metadata-llm-sft-full

Error code:   DatasetGenerationError
Exception:    CastError
Message:      Couldn't cast
id: string
doc_id: string
segment_id: string
task: string
instruction: string
input: string
output: string
crop_kind: string
crop_char_start: int64
crop_char_end: int64
preset_index: int64
span_position_ratio: double
to
{'instruction': Value('string'), 'input': Value('string'), 'output': Value('string')}
because column names don't match
Traceback:    Traceback (most recent call last):
                File "/usr/local/lib/python3.14/site-packages/datasets/builder.py", line 1816, in _prepare_split_single
                  for key, table in generator:
                                    ^^^^^^^^^
                File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 613, in wrapped
                  for item in generator(*args, **kwargs):
                              ~~~~~~~~~^^^^^^^^^^^^^^^^^
                File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/json/json.py", line 343, in _generate_tables
                  self._cast_table(pa_table, json_field_paths=json_field_paths),
                  ~~~~~~~~~~~~~~~~^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
                File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/json/json.py", line 132, in _cast_table
                  pa_table = table_cast(pa_table, self.info.features.arrow_schema)
                File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 2369, in table_cast
                  return cast_table_to_schema(table, schema)
                File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 2297, in cast_table_to_schema
                  raise CastError(
                  ...<3 lines>...
                  )
              datasets.table.CastError: Couldn't cast
              id: string
              doc_id: string
              segment_id: string
              task: string
              instruction: string
              input: string
              output: string
              crop_kind: string
              crop_char_start: int64
              crop_char_end: int64
              preset_index: int64
              span_position_ratio: double
              to
              {'instruction': Value('string'), 'input': Value('string'), 'output': Value('string')}
              because column names don't match
              
              The above exception was the direct cause of the following exception:
              
              Traceback (most recent call last):
                File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 1369, in compute_config_parquet_and_info_response
                  parquet_operations, partial, estimated_dataset_info = stream_convert_to_parquet(
                                                                        ~~~~~~~~~~~~~~~~~~~~~~~~~^
                      builder, max_dataset_size_bytes=max_dataset_size_bytes
                      ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
                  )
                  ^
                File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 948, in stream_convert_to_parquet
                  builder._prepare_split(split_generator=splits_generators[split], file_format="parquet")
                  ~~~~~~~~~~~~~~~~~~~~~~^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
                File "/usr/local/lib/python3.14/site-packages/datasets/builder.py", line 1683, in _prepare_split
                  for job_id, done, content in self._prepare_split_single(
                                               ~~~~~~~~~~~~~~~~~~~~~~~~~~^
                      gen_kwargs=gen_kwargs, job_id=job_id, **_prepare_split_args
                      ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
                  ):
                  ^
                File "/usr/local/lib/python3.14/site-packages/datasets/builder.py", line 1869, in _prepare_split_single
                  raise DatasetGenerationError("An error occurred while generating the dataset") from e
              datasets.exceptions.DatasetGenerationError: An error occurred while generating the dataset

Need help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.

instruction string	input string	output string
Extract the bibliographic AUTHOR from the Tibetan segment below. Reply with JSON only using the key "spans". Each span must include "text", "start", and "end" (0-based character offsets relative to the segment text, inclusive at end). Every span text must be an exact substring of the input. If there is no author, reply...	ུ་ལྟ་བུར་འཆར་བ་ དང་། འཁྲུལ་པའི་སྣང་བ་རིས་དྲུག་ལས་ཀྱི་བྱེ་བྲག་ཐ་དད་སྣ་ཚོགས་སུ་འཆར་བ་ལ་ 23 གསུང་རབ་སྒོ་མཛོད་རིན་པོ་ཆེའི་གླེགས་བམ། 139 སོགས་ཆོ་འཕྲུལ་དུ་མ་འབྱུང་བར་འགྱུར་རོ། །དེ་ནས་རིག་པའི་འོད་འཆར་ཏེ། འོད་ཀྱི་ འཁོར་ལོ་ཁ་དོག་ལྔ་དང་ལྡན་པ། ཆེ་ཆུང་མཐོ་དམན་ཆ་ཚང་གསལ་བ་དང་། རིན་ པོ་ཆེའི་ལུ་གུ་རྒྱུད་ལྟར་འབྲེལ་ཞིང་བར་མ་ཆད་པར་འཐོར་...	{"spans": [{"text": "གཡུང་དྲུང་རྒྱལ་མཚན་", "start": 9319, "end": 9337}]}
Extract the bibliographic AUTHOR from the Tibetan segment below. Reply with JSON only using the key "spans". Each span must include "text", "start", and "end" (0-based character offsets relative to the segment text, inclusive at end). Every span text must be an exact substring of the input. If there is no author, reply...	་ནམ་ན་བུན་སྨྲིག་རྒྱུ་ལྟ་བུར་འཆར་བ་ དང་། འཁྲུལ་པའི་སྣང་བ་རིས་དྲུག་ལས་ཀྱི་བྱེ་བྲག་ཐ་དད་སྣ་ཚོགས་སུ་འཆར་བ་ལ་ 23 གསུང་རབ་སྒོ་མཛོད་རིན་པོ་ཆེའི་གླེགས་བམ། 139 སོགས་ཆོ་འཕྲུལ་དུ་མ་འབྱུང་བར་འགྱུར་རོ། །དེ་ནས་རིག་པའི་འོད་འཆར་ཏེ། འོད་ཀྱི་ འཁོར་ལོ་ཁ་དོག་ལྔ་དང་ལྡན་པ། ཆེ་ཆུང་མཐོ་དམན་ཆ་ཚང་གསལ་བ་དང་། རིན་ པོ་ཆེའི་ལུ་གུ་རྒྱུད་ལྟར་འབྲེལ་ཞ...	{"spans": [{"text": "གཡུང་དྲུང་རྒྱལ་མཚན་", "start": 9338, "end": 9356}]}
Extract the bibliographic AUTHOR from the Tibetan segment below. Reply with JSON only using the key "spans". Each span must include "text", "start", and "end" (0-based character offsets relative to the segment text, inclusive at end). Every span text must be an exact substring of the input. If there is no author, reply...	ྲིན་ནམ་ན་བུན་སྨྲིག་རྒྱུ་ལྟ་བུར་འཆར་བ་ དང་། འཁྲུལ་པའི་སྣང་བ་རིས་དྲུག་ལས་ཀྱི་བྱེ་བྲག་ཐ་དད་སྣ་ཚོགས་སུ་འཆར་བ་ལ་ 23 གསུང་རབ་སྒོ་མཛོད་རིན་པོ་ཆེའི་གླེགས་བམ། 139 སོགས་ཆོ་འཕྲུལ་དུ་མ་འབྱུང་བར་འགྱུར་རོ། །དེ་ནས་རིག་པའི་འོད་འཆར་ཏེ། འོད་ཀྱི་ འཁོར་ལོ་ཁ་དོག་ལྔ་དང་ལྡན་པ། ཆེ་ཆུང་མཐོ་དམན་ཆ་ཚང་གསལ་བ་དང་། རིན་ པོ་ཆེའི་ལུ་གུ་རྒྱུད་ལྟར་འབྲེ...	{"spans": [{"text": "གཡུང་དྲུང་རྒྱལ་མཚན་", "start": 9341, "end": 9359}]}
Extract the bibliographic AUTHOR from the Tibetan segment below. Reply with JSON only using the key "spans". Each span must include "text", "start", and "end" (0-based character offsets relative to the segment text, inclusive at end). Every span text must be an exact substring of the input. If there is no author, reply...	་མེད་པས། ཀུན་གཞི་དང་རིག་པ་གཉིས་མེད་མཐའ་བྲལ་དུ་རྫོགས་པ་ཉིད་ ནི། བདེར་གཤེགས་ཐམས་ཅད་ཀྱི་དགོངས་པའོ། །སངས་རྒྱས་སེམས་ལ་རྫོགས་པའི་ འགྲེལ་པ་ཨུ་ཡ་སྨར་རོ།། །། ༧ ཉེར་གསུམ་པ་ཐེག་དགུའི་གོལ་ས་བསྟན་པ་ལ། ཡང་དག་བླ་མེད་རྫོགས་པའི་ དོན་འདི་ལ། ཐམས་ཅད་ཡེ་ནས་མུ་མེད་ཁྱབ་བདལ་ལ་སོགས་ཅེས་པས། སེམས་ ཉིད་ཡེ་རྫོགས་ཆེན་པོའི་དོན། སེམས་ཉིད་གནས་ལུགས་ཀྱི...	{"spans": [{"text": "སེ་གཉེན་ཞིག་པོས་བ", "start": 9204, "end": 9220}]}
Extract the bibliographic AUTHOR from the Tibetan segment below. Reply with JSON only using the key "spans". Each span must include "text", "start", and "end" (0-based character offsets relative to the segment text, inclusive at end). Every span text must be an exact substring of the input. If there is no author, reply...	་མཁན་གཤེགས་ 150 སེམས་སྡེ། མུ་མེད་བདལ་པའི་འགྲེལ་བ། མཁན་མེད་པས། ཀུན་གཞི་དང་རིག་པ་གཉིས་མེད་མཐའ་བྲལ་དུ་རྫོགས་པ་ཉིད་ ནི། བདེར་གཤེགས་ཐམས་ཅད་ཀྱི་དགོངས་པའོ། །སངས་རྒྱས་སེམས་ལ་རྫོགས་པའི་ འགྲེལ་པ་ཨུ་ཡ་སྨར་རོ།། །། ༧ ཉེར་གསུམ་པ་ཐེག་དགུའི་གོལ་ས་བསྟན་པ་ལ། ཡང་དག་བླ་མེད་རྫོགས་པའི་ དོན་འདི་ལ། ཐམས་ཅད་ཡེ་ནས་མུ་མེད་ཁྱབ་བདལ་ལ་སོགས་ཅེས་པས། ...	{"spans": [{"text": "སེ་གཉེན་ཞིག་པོས་བ", "start": 9258, "end": 9274}]}
Extract the bibliographic AUTHOR from the Tibetan segment below. Reply with JSON only using the key "spans". Each span must include "text", "start", and "end" (0-based character offsets relative to the segment text, inclusive at end). Every span text must be an exact substring of the input. If there is no author, reply...	་མེད་བདལ་པའི་འགྲེལ་བ། མཁན་མེད་པས། ཀུན་གཞི་དང་རིག་པ་གཉིས་མེད་མཐའ་བྲལ་དུ་རྫོགས་པ་ཉིད་ ནི། བདེར་གཤེགས་ཐམས་ཅད་ཀྱི་དགོངས་པའོ། །སངས་རྒྱས་སེམས་ལ་རྫོགས་པའི་ འགྲེལ་པ་ཨུ་ཡ་སྨར་རོ།། །། ༧ ཉེར་གསུམ་པ་ཐེག་དགུའི་གོལ་ས་བསྟན་པ་ལ། ཡང་དག་བླ་མེད་རྫོགས་པའི་ དོན་འདི་ལ། ཐམས་ཅད་ཡེ་ནས་མུ་མེད་ཁྱབ་བདལ་ལ་སོགས་ཅེས་པས། སེམས་ ཉིད་ཡེ་རྫོགས་ཆེན་པོའི་ད...	{"spans": [{"text": "སེ་གཉེན་ཞིག་པོས་བ", "start": 9229, "end": 9245}]}
Extract the bibliographic AUTHOR from the Tibetan segment below. Reply with JSON only using the key "spans". Each span must include "text", "start", and "end" (0-based character offsets relative to the segment text, inclusive at end). Every span text must be an exact substring of the input. If there is no author, reply...	ཤར། ག་ན་ས་ འདོ་། ་ས་ལ་་ིས། ས་དེས་ཆུའི་ཡས་ལས་ཞ་ བའི་རྣས་༼ཞེས་ཤར༌། ཇི་ འོམ་པོན་སོ་ཁྲོལ་བས་མངལསའི་ སྣ་ གསལ་ལྷན་གྱི་༼ཤེས་བ་ཤར། གོ་སེར་སོ་ལ་འཛིན་ ས་དེ་མགོོ་ཧས་མས་ལུས་ གི་རྣས་༼ཤེང་ཀར་་ སོ་ན་བ པས་རེག་ སྨྱའི་ཤེས་ས་ཤར། ཡ་ཤོང་ན་༼སྤྱོད་སའི་སྤྲུལ་ལྔ་འར། གོ་་འརས་ལ་ འཛིན་སས་ན་མཁའི་ཡས་ མས་མིག་ག་ ཡུན་དུ་གཟུ་ རྩི་བྱེ་ལྗག་ཡོངས་༼བོད་དུ་ཤ...	{"spans": [{"text": "༧ ཁྱུང་སྟེང་ནོར་གླིང་བོན་གཏེར་སྒྲོམ་བུའི་ཁར།\n", "start": 7327, "end": 7371}]}
"Extract the bibliographic AUTHOR from the Tibetan segment below. Reply with JSON only using the key(...TRUNCATED)	"ས་\nགི་རྣས་༼ཤེང་ཀར་་\nསོ་ན་བ པས་རེག་\(...TRUNCATED)	"{\"spans\": [{\"text\": \"༧ ཁྱུང་སྟེང་ནོར་གླིང་བོན་(...TRUNCATED)
"Extract the bibliographic AUTHOR from the Tibetan segment below. Reply with JSON only using the key(...TRUNCATED)	"ས་\nགི་རྣས་༼ཤེང་ཀར་་\nསོ་ན་བ པས་རེག་\(...TRUNCATED)	"{\"spans\": [{\"text\": \"༧ ཁྱུང་སྟེང་ནོར་གླིང་བོན་(...TRUNCATED)
"Extract the bibliographic AUTHOR from the Tibetan segment below. Reply with JSON only using the key(...TRUNCATED)	"་ཡེ་དེ་ཅུ་ཤེལ་ཞི་ཏན་ཏྲ་ད་དོད་ཅི།\n(...TRUNCATED)	"{\"spans\": [{\"text\": \"གཤེན་ལྷ་འོད་དཀར་ས\", \"start\": 260, \"(...TRUNCATED)

End of preview.

Tibetan metadata LLM SFT dataset (full)

Complete supervised fine-tuning JSONL for title and author span extraction from BDRC outliner segments, built for TiLamb-7B.

Pilot subset

See ganga4364/tibetan-metadata-llm-sft for a 10% pilot subsample (same schema, smaller for quick experiments).

Layout

title/{train,val,test}.jsonl       # Alpaca format for LLaMA-Factory
title/{train,val,test}_meta.jsonl
author/{train,val,test}.jsonl
author/{train,val,test}_meta.jsonl
dataset_info.json                  # LLaMA-Factory registry snippet
reports/crop_stats.json

Each training row:

instruction — fixed task prompt (title or author)
input — cropped segment text (token-budget ≤3584 via TiLamb tokenizer)
output — JSON {"spans":[{"text","start","end"}]} (crop-relative offsets)

Cropping

Kind	When
`full`	Whole segment fits token budget
`positive`	Random window containing gold span (anti position-bias)
`negative`	Random window, empty spans for that task

Tokenizer budgets use TiLamb (YoLo2000/TiLamb-7B) — enforced in tokens, not characters.

Source: ganga4364/tibetan-metadata-extracted (3794 docs).

Built with OpenPecha/tibetan-text-meta-detection llm_sft package.

Downloads last month: 41

Total file size:

5.78 GB