Transfer Learning(전이학습) Transfer Learning이란? 사전에 학습된 모델(Pretrained Model)을 가지고 우리가 원하는 학습에 미세 조정하여 학습시키는 방법을 말한다. 왜 사용할까? 모델을 처음부터 만드려면 아래와 같은 문제점이 생긴다. 학습 시킬 데이터수가 적거나 데이터 확보하는데 많은 비용이 든다. 새로운 문제를 해결할 때 데이터의 분포가 바뀌면 기존의 통계적 모델을 새로운 데이터로 다시 만들어야 한다. Convolution network을 처음부터 학습시켜야 한다. 복잡한 모델일수록 학습 시간도 오래 걸리고 GPU 비용도 비싸다. layers의 개수, activation, hyper parameters 등 고려해야할 사항들이 많고, 처음부터 학습시키려면 많은 시행..
[Deep Learning] Transfer Learning과 Fine Tunnig
Transfer Learning(전이학습) Transfer Learning이란? 사전에 학습된 모델(Pretrained Model)을 가지고 우리가 원하는 학습에 미세 조정하여 학습시키는 방법을 말한다. 왜 사용할까? 모델을 처음부터 만드려면 아래와 같은 문제점이 생긴다. 학습 시킬 데이터수가 적거나 데이터 확보하는데 많은 비용이 든다. 새로운 문제를 해결할 때 데이터의 분포가 바뀌면 기존의 통계적 모델을 새로운 데이터로 다시 만들어야 한다. Convolution network을 처음부터 학습시켜야 한다. 복잡한 모델일수록 학습 시간도 오래 걸리고 GPU 비용도 비싸다. layers의 개수, activation, hyper parameters 등 고려해야할 사항들이 많고, 처음부터 학습시키려면 많은 시행..
2023.04.09