관련 링크
Day 1: 20201022
•
Dataset Summary
•
EfficientNet Transfer Learning
•
Idea: Optical Character Recognition Model을 사용하면 좋을 것 같다?
•
EfficientNet.pytorch: https://github.com/lukemelas/EfficientNet-PyTorch
Day 2: 20201026
•
Step 0
◦
Train Accuracy가 정상적으로 나오기 시작했다
◦
Large Crop, Resize를 통해서 low frequency를 가진 structure가 먼저 학습되고 있는 것 같다
•
Valid, Inference 구현
•
Five Crop했지만 height는 이미 최대라서 3개 crop의 inference 결과만 ensemble
•
Detail을 더 학습할 수 있도록 Resize 없이 학습시작
•
Inference에 Image가 올바르게 들어가고 있는지 의문, 체크해볼 필요가 있음
Day 3: 20201027
Inference를 train에 돌려보기
Label Smoothing으로 confidence 올리기
AutoAugment 등 어려운 training transforms 시도
•
Jittering
•
Erase
Day 4: 20201028
•
헷갈려 하는 것 분석
◦
160 고양시 문예회관 → 447 고양시청
◦
195 곤지암 리조트 → 429 꿈빛도서관
◦
224 과천 향교 → 192 유석 조병옥 선생 동상
◦
808 구리 남양주 교육지원청 → 178 파라다이스시티, 128 금천마을회관
◦
하다가 너무 많음
•
Summary Train Dataset Inference
◦
Weight Training
Day 5: 20201029
Google Landmark Recognition 2020 competition 분석하기
•
Arcface Loss: https://arxiv.org/pdf/1801.07698.pdf
◦
작동하지 않음
•
GeM Pooling: https://arxiv.org/pdf/1811.00202.pdf
•
Moco 시도해보기: https://github.com/facebookresearch/moco
More wide adaptive average pooling
Day 6: 20201030
More harsh data augmentation
•
RandomAffine
•
RandomPerspective
•
GaussianBlur
ResNext
Day 7
Ensemble
EfficientNet 직접 구현하거나 뜯어보기
GroupNorm + Weight Standardization : https://youtu.be/p-zOeQCoG9c
torch hub 써보기: https://jybaek.tistory.com/813
