--- language: - ko license: cc-by-4.0 size_categories: - 1K 태그 시퀀스 ### Languages 한국어 (Korean, ko) ## Dataset Structure ### Data Instances ```json { "id": 0, "tokens": ["삼성전자", "가", "신제품을", "출시했다", "."], "ner_tags": ["B-ORG", "O", "O", "O", "O"], "text": "삼성전자가 신제품을 출시했다." } ``` ### Data Fields | Field | Type | Description | |-------|------|-------------| | `id` | int | 샘플 고유 ID | | `tokens` | List[str] | 토큰화된 단어 리스트 | | `ner_tags` | List[str] | 각 토큰에 대한 BIO 태그 | | `text` | str | 원본 문장 | ### Entity Types | Entity Type | Description | Examples | |-------------|-------------|----------| | PER (인물) | 사람 이름, 연예인, 스포츠 선수 등 | 김철수, 손흥민, 아이유 | | ORG (기관) | 회사, 정부 기관, 학교, 방송사 등 | 삼성전자, 서울대학교, KBS | | LOC (장소) | 지역, 국가, 시설, 자연지물 등 | 서울, 한국, 강남, 한강 | | DAT (날짜) | 날짜, 시간, 요일, 기간 표현 | 오늘, 2024년, 월요일 | ### BIO Tagging Scheme | Tag | Description | |-----|-------------| | O | Outside (개체명이 아님) | | B-PER | Begin-Person (인물 개체의 시작) | | I-PER | Inside-Person (인물 개체의 내부) | | B-ORG | Begin-Organization (기관 개체의 시작) | | I-ORG | Inside-Organization (기관 개체의 내부) | | B-LOC | Begin-Location (장소 개체의 시작) | | I-LOC | Inside-Location (장소 개체의 내부) | | B-DAT | Begin-Date (날짜 개체의 시작) | | I-DAT | Inside-Date (날짜 개체의 내부) | ### Data Splits | Split | Examples | Description | |-------|----------|-------------| | train | 5,000 | 학습용 데이터 | | validation | 500 | 검증용 데이터 | | test | 500 | 테스트용 데이터 | ## Dataset Creation ### Curation Rationale 이 데이터셋은 다음 목적으로 제작되었습니다: 1. **교육용**: 딥러닝/NLP 입문자를 위한 실습 데이터 2. **한국어 NLP**: 한국어 토큰 분류 모델 학습 및 평가 3. **BERT Fine-tuning**: 사전학습 모델의 토큰 분류 미세조정 실습 4. **BIO 태깅 학습**: 시퀀스 라벨링의 기본 개념 이해 ### Source Data #### Initial Data Collection and Normalization - **생성 방식**: 템플릿 기반 합성 (Template-based Synthetic Generation) - **템플릿 수**: 약 50개 이상의 다양한 문장 구조 - **개체명 풀**: 각 카테고리별 수십 개의 개체명 #### Who are the source language producers? 합성 데이터로, 실제 뉴스 기사나 사용자 생성 콘텐츠가 아닙니다. ### Annotations #### Annotation process 템플릿 기반 자동 생성으로, 문장 생성 시 태그가 함께 결정됩니다. #### Who are the annotators? 자동 생성된 레이블 (템플릿 슬롯에 따라 결정) ### Personal and Sensitive Information 이 데이터셋은 합성 데이터로, 개인정보나 민감 정보를 포함하지 않습니다. 인물명은 가상 또는 공인의 이름을 사용했습니다. ## Considerations for Using the Data ### Social Impact of Dataset 교육 목적으로 제작된 데이터셋으로, 실제 뉴스 기사와 다를 수 있습니다. ### Discussion of Biases - 템플릿 기반 생성으로 문장 패턴이 제한적일 수 있습니다 - 실제 텍스트의 복잡성과 다양성을 완전히 반영하지 못합니다 - 교육 및 실습 목적에 적합하며, 실제 서비스 적용에는 추가 검증이 필요합니다 ### Other Known Limitations 1. **합성 데이터의 한계**: 실제 텍스트의 문체나 표현 다양성 부족 2. **토큰화 방식**: 간단한 규칙 기반 토큰화 사용 (형태소 분석 미적용) 3. **개체 중첩**: 중첩 개체명(nested entities)은 지원하지 않음 ## Additional Information ### Dataset Curators 정상근 (hugmanskj@gmail.com) ### Licensing Information CC BY 4.0 (Creative Commons Attribution 4.0 International) 이 데이터셋은 교육 목적으로 자유롭게 사용할 수 있습니다. ### Citation Information ```bibtex @dataset{korean_ner_synthetic, author = {정상근}, title = {Korean NER Dataset (Synthetic)}, year = {2024}, publisher = {Hugging Face}, note = {Educational dataset for deep learning textbook} } ``` ## How to Use ### Loading the Dataset ```python from datasets import load_dataset # Hugging Face Hub에서 로드 dataset = load_dataset("YOUR_USERNAME/korean-ner") # 또는 로컬 파일에서 로드 dataset = load_dataset("json", data_files={ "train": "train.json", "validation": "valid.json", "test": "test.json" }) ``` ### Example Usage with BERT ```python from transformers import AutoTokenizer, AutoModelForTokenClassification from transformers import DataCollatorForTokenClassification, Trainer, TrainingArguments # 레이블 정의 label_list = ["O", "B-PER", "I-PER", "B-ORG", "I-ORG", "B-LOC", "I-LOC", "B-DAT", "I-DAT"] label_to_id = {label: i for i, label in enumerate(label_list)} # 모델 및 토크나이저 로드 model_name = "klue/bert-base" tokenizer = AutoTokenizer.from_pretrained(model_name) model = AutoModelForTokenClassification.from_pretrained(model_name, num_labels=len(label_list)) # 토큰화 함수 def tokenize_and_align_labels(examples): tokenized_inputs = tokenizer( examples["tokens"], truncation=True, is_split_into_words=True, padding="max_length", max_length=128 ) labels = [] for i, label in enumerate(examples["ner_tags"]): word_ids = tokenized_inputs.word_ids(batch_index=i) label_ids = [] previous_word_idx = None for word_idx in word_ids: if word_idx is None: label_ids.append(-100) elif word_idx != previous_word_idx: label_ids.append(label_to_id[label[word_idx]]) else: label_ids.append(-100) # subword는 -100으로 마스킹 previous_word_idx = word_idx labels.append(label_ids) tokenized_inputs["labels"] = labels return tokenized_inputs # 데이터셋 전처리 tokenized_dataset = dataset.map(tokenize_and_align_labels, batched=True) # 학습 data_collator = DataCollatorForTokenClassification(tokenizer) training_args = TrainingArguments( output_dir="./results", num_train_epochs=3, per_device_train_batch_size=16, per_device_eval_batch_size=16, evaluation_strategy="epoch", ) trainer = Trainer( model=model, args=training_args, train_dataset=tokenized_dataset["train"], eval_dataset=tokenized_dataset["validation"], data_collator=data_collator, ) trainer.train() ``` ## Sample Data ### Example 1: Single Entity ``` Tokens: ["삼성전자", "가", "신제품을", "출시했다", "."] Tags: ["B-ORG", "O", "O", "O", "O"] ``` ### Example 2: Multiple Entities ``` Tokens: ["오늘", "손흥민", "이", "런던", "에서", "경기를", "했다", "."] Tags: ["B-DAT", "B-PER", "O", "B-LOC", "O", "O", "O", "O"] ``` ### Example 3: Complex Sentence ``` Tokens: ["삼성전자", "가", "내일", "서울", "에서", "컨퍼런스를", "개최한다", "."] Tags: ["B-ORG", "O", "B-DAT", "B-LOC", "O", "O", "O", "O"] ```