반응형 딥러닝9 전이학습 (Transfer Learning)과 파인튜닝(pine tuning) 전이학습(Transfer Leaning) 전이학습(Transfer Leaning)이란 pretrain 된 모델들을 기반으로 그 모델의 출력층을 바꾸어 학습하는 기법이다. pretrain 된 모델의 최종 출력층(classifier)를 보유중인 데이터에 대응하는 출력층으로 바꾸고, 교체한 출력층의 결합 파라미터를 가지고 있는 데이터를 통해 다시 학습시켜 weight를 update합니다. 이때 입력층과 가까운 부분의 weight는 새로이 학습한 값으로 변화시키지 않습니다. 이러한 기법을 사용하는 전이학습은 보유중인 데이터가 적더라도 이미 가중치가 update 되어있는 학습된 모델을 활용하기 때문에 좋은 성능의 딥러닝을 실현할 수 있다는 것이 장점입니다. 파인튜닝(pine tuning) 파인튜닝(pine tun.. 2022. 3. 31. [논문 리뷰]Sequence to Sequence Learning with Neural Networks(Seq2Seq) https://arxiv.org/abs/1409.3215 Sequence to Sequence Learning with Neural Networks Deep Neural Networks (DNNs) are powerful models that have achieved excellent performance on difficult learning tasks. Although DNNs work well whenever large labeled training sets are available, they cannot be used to map sequences to sequences. In this pap arxiv.org 1. Abstract 이전까지는 보편적으로 DNN 모델을 이용하여 용량이 큰 label.. 2022. 3. 20. [논문 구현]Fully Convolutional Networks for Semantic Segmentation(FCN) https://github.com/327aem/paper_review/tree/main/Segmentation GitHub - 327aem/paper_review: 논문 리뷰/구현 논문 리뷰/구현. Contribute to 327aem/paper_review development by creating an account on GitHub. github.com import torch import torch.nn as nn import torchvision.models as models class FCN16(nn.Module): def __init__(self,model,hidden =64,kernel_size=3,padding = 1, num_classes = 21): super(FCN16,self).__.. 2022. 3. 16. [논문 리뷰]Fully Convolutional Networks for Semantic Segmentation(FCN, Segmentation 분야) Fully Convolutional Networks for Semantic Segmentation(FCN) https://arxiv.org/abs/1411.4038 Fully Convolutional Networks for Semantic Segmentation Convolutional networks are powerful visual models that yield hierarchies of features. We show that convolutional networks by themselves, trained end-to-end, pixels-to-pixels, exceed the state-of-the-art in semantic segmentation. Our key insight is to .. 2022. 3. 16. 이전 1 2 3 다음 반응형
