반응형 ema1 [딥러닝 with Python] Self Supervised Learning(SSL) (4) : Invariance 활용 이번에는 지난 시간에 이이서 SSL 간 Invariance를 활용하는 모델들에 대해서 알아보겠습니다. 오늘 알아볼 모델은 BYOL(Bootstrap Your Own Latent)와 DINO입니다. 1. BYOL(Bootstrap Your Own Latent)- BYOL은 Online 네트워크와 Target 네트워크 구성되어 Contrastive Learning을 하는 방식입니다.- 기존의 다른 Contrastive Learning과는 다르게 Negative sample이 필요하진 않습니다. - 작동 방식은 * 두 네트워크에 서로 다른 증강된 데이터를 입력하고 * Online 네트워크의 출력과 Target 네트워크의 출력을 비교하면서 학습을 하며 * 이때 Target 네트워크는 학습이 되지는 않고, 대신 .. 2024. 11. 17. 이전 1 다음 반응형
