Skip to content

Commit

Permalink
FIX: Inference prompt fix
Browse files Browse the repository at this point in the history
training에 사용한 prompt와 동일하게 수정
  • Loading branch information
rustic-snob committed Jul 26, 2023
1 parent 17f7ea1 commit 0cef937
Showing 1 changed file with 2 additions and 1 deletion.
3 changes: 2 additions & 1 deletion model/tag_inference.py
Original file line number Diff line number Diff line change
Expand Up @@ -59,7 +59,8 @@ def _truncate_text(self, text, tokenizer, max_length):

def _generate_prompt(self):
if 'KoAlpaca' in self.peft_model_id:
prompt = f"Instruction(명령어):\n'다음의 블로그 글에 어울리는 태그 5개를 생성하시오. 태그의 형식은 다음과 같음. [#영어(한글), #영어(한글), #영어(한글), #영어(한글), #영어(한글)]'\n\n### Input(입력):\n주제는 [{self.topics}], 제목은 [{self.title}], 본문은 [{self.content}]이다.\n\n### Response(응답): "

prompt = f"### Instruction(명령어):\n다음의 블로그 글에 어울리는 태그 5개를 생성하시오. 태그의 형식은 다음과 같음. [#영어(한글), #영어(한글), #영어(한글), #영어(한글), #영어(한글)]\n\n### Input(입력):\n제목은 [{self.title}], 본문은 [{self.content}]이다.\n\n### Response(응답): \n"

return prompt

Expand Down

0 comments on commit 0cef937

Please sign in to comment.