[IBK 기업은행] Model Tuning 방법론 및 최적화 실습

점점 모델 크기가 커져가면서 모델 학습이나 추론에 많은 자원과 시간이 필요합니다. 좋은 성능을 보이는 거대 모델을 누구나 쉽게 사용하기 위해 경량화 기법이 연구 분야로 부각되고 있습니다.

본 강의에서는 Pruning, Knowledge Distillation, Quantization, PEFT 등의 기법을 다루며 거대 모델 자체에 대한 경량화 기법을 배우고, 데이터 병렬화, 모델 병렬화 등의 분산 학습 전략을 이해할 수 있습니다. 이를 바탕으로 학습 목적, 환경에 따른 적절한 경량화를 실무에 적용할 수 있습니다.