Update README.md

README.md

@@ -2,7 +2,7 @@
 import torch
 from transformers import AutoTokenizer, AutoModelForCausalLM
 
-model_id = 'MLP-KTLim/llama-3.2-Korean-Bllossom-3B'
+model_id = 'Bllossom/llama-3.2-Korean-Bllossom-3B'
 
 tokenizer = AutoTokenizer.from_pretrained(model_id)
 model = AutoModelForCausalLM.from_pretrained(
@@ -10,17 +10,17 @@ model = AutoModelForCausalLM.from_pretrained(
     torch_dtype=torch.bfloat16,
     device_map="auto",
 )
-instruction = "서울의 유명한 관광 코스를 만들어줄래?"
+instruction = "철수가 20개의 연필을 가지고 있었는데 영희가 절반을 가져가고 민수가 남은 5개를 가져갔으면 철수에게 남은 연필의 갯수는 몇개인가요?"
 
 messages = [
     {"role": "user", "content": f"{instruction}"}
     ]
 
-chat_template = tokenizer.apply_chat_template(
-    messages, tokenize=False
-)
-
-tokend = tokenizer(chat_template, return_tensors='pt').to(model.device)
+input_ids = tokenizer.apply_chat_template(
+    messages,
+    add_generation_prompt=True,
+    return_tensors="pt"
+).to(model.device)
 
 terminators = [
     tokenizer.convert_tokens_to_ids("<|end_of_text|>"),
@@ -28,58 +28,22 @@ terminators = [
 ]
 
 outputs = model.generate(
-    **tokend,
-    max_new_tokens=2048,
+    input_ids,
+    max_new_tokens=1024,
     eos_token_id=terminators,
     do_sample=True,
     temperature=0.6,
     top_p=0.9
 )
 
-print(tokenizer.decode(outputs[0][tokend.input_ids.shape[-1]:], skip_special_tokens=True))
+print(tokenizer.decode(outputs[0][input_ids.shape[-1]:], skip_special_tokens=True))
 ```
 ```
-assistant로, 서울의 유명한 관광지와 함께 추천해 드릴게요. 서울은 다양한 문화, 역사, 음식, 예술 등 다양한 경험을 제공하는 도시입니다. 다음은 서울의 대표적인 관광 코스를 추천해 드리겠습니다.
-
-### 서울 관광 코스: 문화와 역사, 현대와 전통을 한 곳에
-
-#### 1. 인사동
-- **가장 먼저 방문할 곳:** 인사동
-- **추천 관광지:**
-  - **인사동 상상공원:** 서울에서 가장 인기가 있는 상상공원 중 하나로, 다양한 상점과 식당들이 모여 있어 관광객에게 인기가 많습니다.
-  - **인사동 가게:** 다양한 음식점과 카페, 전통 가게들이 모여 있어 다양한 맛을 즐길 수 있습니다.
-
-#### 2. 명동
-- **가장 먼저 방문할 곳:** 명동
-- **추천 관광지:**
-  - **명동 광장:** 서울에서 가장 유명한 광장 중 하나로, 다양한 관광객들이 모여서 관광하기 좋습니다.
-  - **명동 가게:** 전통 음식점, 카페, 전통 가게들이 모여 있어 다양한 맛을 즐길 수 있습니다.
-
-#### 3. 홍대
-- **가장 먼저 방문할 곳:** 홍대
-- **추천 관광지:**
-  - **홍대 광장:** 홍대는 서울의 대표적인 청년 문화와 nightlife가 있는 지역으로, 다양한 관광객들이 모여서 관광하기 좋습니다.
-  - **홍대 가게:** 다양한 음식점, 카페, 클럽, 카페가 모여 있어 다양한 경험을 즐길 수 있습니다.
-
-#### 4. 서울의 전통 district
-- **가장 먼저 방문할 곳:** 중동, 경복궁, 경복궁 광장
-- **추천 관광지:**
-  - **중동:** 전통의 재현을 통해 서울의 역사와 문화를 경험할 수 있는 곳으로, 다양한 전통 가게와 음식점이 모여 있습니다.
-  - **경복궁:** 서울의 역사와 문화를 경험할 수 있는 곳으로, 다양한 관광객들이 모여서 관광하기 좋습니다.
-  - **경복궁 광장:** 서울에서 가장 큰 광장 중 하나로, 다양한 관광객들이 모여서 관광하기 좋습니다.
+철수가 20개의 연필을 가지고 있었고 영희가 절반을 가져가면, 영희가 가져간 연필의 갯수는 20 / 2 = 10개입니다.
 
-#### 5. 서울의 현대가
-- **가장 먼저 방문할 곳:** 강남, 세종대도
-- **추천 관광지:**
-  - **강남:** 서울의 현대가로, 다양한 상업 거리와 관광지들이 모여 있습니다.
-  - **세종대도:** 서울의 현대가로, 다양한 상업 거리와 관광지들이 모여 있습니다.
+이제 철수가 남은 연필의 갯수를 계산해보겠습니다. 영희가 10개를 가져간 후 철수가 남은 연필의 갯수는 20 - 10 = 10개입니다.
 
-### 서울 관광 코스 요약
-1. **인사동:** 상상공원, 인사동 가게
-2. **명동:** 명동 광장, 명동 가게
-3. **홍대:** 홍대 광장, 홍대 가게
-4. **서울의 전통 district:** 중동, 경복궁, 경복궁 광장
-5. **서울의 현대가:** 강남, 세종대도
+민수가 남은 5개를 가져갔으므로, 철수가 남은 연필의 갯수는 10 - 5 = 5개입니다. 
 
-이 관광 코스는 서울의 다양한 문화와 역사, 현대와 전통을 한 곳에 모아두고 있습니다. 다양한 경험을 즐길 수 있는 다양한 관광지들이 포함되어 있어, 서울을 방문하는 것을 추천합니다.
+따라서 철수가 남은 연필의 갯수는 5개입니다.
 ```