Paper (1) 썸네일형 리스트형 [논문 리뷰] Balancing Continuous Pre-Training and Instruction Fine-Tuning: Optimizing Instruction-Following in LLMs Paper : Balancing Continuous Pre-Training and Instruction Fine-Tuning: Optimizing Instruction-Following in LLMs에 관련한 논문 리뷰입니다.https://www.arxiv.org/abs/2410.10739 AbstractCPT와 instruction FT 사이의 복잡한 관련성에 대해서 파해치기CPT가 base model과 instruction FT model의 지시사항에 미치는 영향따라서 본 논문은 instruction data와 FT 없이 새로운 데이터 업데이트와 instruction 수행능력을 얻을 수 있는 효율적인 방법을 찾는 것을 목표로 한다. 1. IntroductionBase Model은 주어진 시퀀스에서 다.. 이전 1 다음
