반응형 Contrastive Learning4 [딥러닝 with Python] EBM(Energy-Based Model) 이해 : 확률을 에너지로 바꾸기 머신러닝에서 데이터를 모델링하는 방법은 다양합니다. 일반적으로 확률 모델을 사용해 데이터가 특정 분포를 따른다고 가정하고 이를 학습하하지만, 특정 확률 분포를 명확히 정의하기 어려운 경우에 오늘 알아볼 EBM(Energy-Based Model) 을 사용할 수 있습니다. EBM은 확률을 직접적으로 다루지 않고, "에너지"라는 개념을 활용해서 데이터를 평가하는 방식인데요. 이 개념을 바탕으로 대조학습(Contrastive Learning)이 등장하게 되었습니다.Contrastive Learning 기초 : EBM, NCE, InfoNCE Contrastive Learning 기초 : EBM, NCE, InfoNCE이번에 알아볼 것은 Contrastive Learning에서 핵심 개념인 EBM(Energy.. 2025. 3. 5. [딥러닝 with Python] Self-Supervised Learning (2) : 대조학습(Contrastive Learning) 이번에는 자기지도학습(Self-Supervised Learning, SSL)의 방법 중 대조학습(Contrastive Learning)에 대해서 알아보고자 합니다. 1. 대조학습(Contrastive Learning)이란?- 대조학습은 유사한 데이터(Positive Sample)는 가깝게, 다른 데이터(Negative Sample)는 멀어지도록 학습하는 방법을 말합니다. - 대조학습의 핵심 원리는 1) 데이터 증강(Augmentation)을 통해서 Positive / Negative Pair를 생성 * 하나의 이미지를 다양한 변형(Crop, Rotation, Color Jittering 등)하여 Positive Pair를 생성해줍니다. * 서로 다른 이미지는 Negative Pair로 설정합니다. 2.. 2025. 3. 3. Contrastive Learning 기초 : EBM, NCE, InfoNCE 이번에 알아볼 것은 Contrastive Learning에서 핵심 개념인 EBM(Energy Based Model), NCE(Noise Contrastive Estimation), 그리고 InfoNCE의 개념에 대해서 자세히 알아보고 이를 정리해보도록 하겠습니다. 1. EBM(Energy Based Model), NCE(Noise Contrastive Estimation), 그리고 InfoNCE 1) EBM(Energy Based Model) - 에너지 기반 모델(EBM)은 확률론적 프레임워크를 제공하며, 에너지 함수 를 이용해 실제 데이터에는 낮은 에너지를 할당하고 비실제 데이터에는 높은 에너지를 할당합니다- 이때 에너지를 정의하기 위해 볼츠만 분포(Boltzmann Distribution)을 활용.. 2025. 2. 28. [딥러닝 with Python] 이미지 리트리버(Image Retrieval) / CLIP 으로 구현 1. 이미지 리트리버(Image Retrieval)- 이미지 리트리버는 주어진 입력(쿼리 / Query)와 유사한 이미지를 대규모 이미지 데이터베이스에서 검색해내는 시스템을 말합니다. - 이때 입력(쿼리)는 텍스트, 이미지 등 다양하게 활용할 수 있습니다. - 이미지 리트리버의 주요 구성요소는 아래와 같습니다. 1) 쿼리 입력(Query Input) * 텍스트 쿼리 : 사용자가 텍스트로 이미지의 설명을 제공하면, 시스템은 이 텍스트를 기반으로 검색을 합니다. ex. "강아지가 뛰어노는 사진" 이라는 텍스트 쿼리를 입력하면 아래와 같이 쿼리에 해당하는 이미지가 반환되게 됩니다. * 이미지 쿼리 : 사용자가 이미지를 제공하면, 시스템은 이 이미지와 유사한 이미지를 검색하게 됩니다. (이를, 콘텐.. 2024. 7. 30. 이전 1 다음 반응형
