본문 바로가기
반응형

전체 글87

[개념정리] Dilated Convolution과 Separable Convolution 1. Dilated Convolution - Atrous convolution이라고도 불리는 Dilated convolution은 우리말로 확장 합성곱이라고 불립니다. - 이는 Convolution 커널 내부의 간격을 늘리는 방법으로, 간격을 dilation rate라고 부르며 이를 조절하여 적용합니다. - 위 그림의 예시를 통해 이해해보면 * 아래 파란색 이미지가 입력이미지이고, 이때 일반적인 convolution과는 다르게 중간이 비어있는(또는 건너 띄어진) 부분이 있는 것을 볼 수 있습니다. 즉, 입력 이미지의 중간 중간 부분을 건너 띄어서 인식하는 방법을 의미합니다. - Dilation convolution을 활용하면, 더 넓은 수용영역(Receptive field)를 가지게 되며 더 많은 Glo.. 2024. 2. 5.
[개념 정리] CNN에서 수용영역이란? Receptive field란? 이번에 알아볼 내용은 Receptive field입니다. 우리 말로는 수용영역이라고 하는데요 1. Receptive Field란?(수용영역이란) - Receptive field, 수용 영역은컨볼루션 신경망(CNN)에서 출력 레이어의 뉴런 하나에 영향을 미치는 입력 뉴런들의 공간크기를 의미합니다. 즉, 각 뉴런이 '보고' 처리하는 입력 이미지의 영역이라고 볼 수 있습니다. - CNN에서 한 뉴런의 Receptive field는 커널(필터)의 크기와 stride에 의해서 결정이 됩니다. 커널의 크기가 크거나 또는 Stride가 크게 되면 해당 커널이 처리할 수 있는 이미지의 부분이 커지므로, 이는 곧 Receptive field가 커지는 것을 의미합니다. Receptive field의 크기에 따른 의미는 다.. 2024. 2. 4.
Mean Teacher란? 이번에는 Mean Teacher에 대해서 알아보도록 하겠습니다. 이는 지식증류(Knowledge Distillation)를 기반으로 한 semi supervised learning의 방법 중 하나입니다. 즉, 지식증류 방법을 semi supervsied learning에 사용할때 사용한 방법 중 하나로 생각하면 되는데요. 1. Mean Teacher란? - "Mean teachers are better role models: Weight-averaged consistency targets improve semi-supervised deep learning results"(A Tarvainen ,2017) 라는 논문에서 제시한 방법으로, semi supervised learning 의 성능을 향상시키기 위.. 2024. 1. 28.
Normalization / Batch Normalization / Layer Normalization 이번에 알아볼 내용은 Normalization / Batch Normalization / Layer Normalization이다. 1. Normalization - Normalization 이란, 우리말로 정규화 이다. - 이는 데이터의 범위를 특정 범위 또는 규칙에 따라 조정하는 과정을 말하는 것이다. - 대표적으로는 데이터의 최소값을, 최대값을 1로 변환하여 데이터의 분포를 조정하는 방법이 있다. - Normalization을 하는 이유는 1) 데이터의 스케일을 조정하여 분석 또는 처리가 용이하게 만들고 2) 다양한 단위나 범위를 가진 데이터를 일관된 형태로 변환하며 3) 학습 알고리즘이 더 빠르고 효과적으로 수렴하도록 도와주고 4) 데이터 내 특징(feature) 간의 상대적 중요도를 균등화하기 위.. 2024. 1. 27.
[딥러닝 with 파이썬] 분류(Classification)란? 사례 분류(Instance Classification) / 범주 분류(Categorical Classification) 1. 사례 분류 vs 범주 분류 (Instance Classification vs Categorical Classification) 1) 사례 분류(Instance Classification) - 사례 분류는, 내 차나 어린이 교통표지팥과 같이 모양과 텍스처가 고정된 특정 물체를 찾는 문제를 말합니다. - 보통 모양이 변하지 않는 강체(Rigid Object)로 국한하며, 교통약자 표지판 처럼 변치않는 모양을 가진 것을 분류하는 것이 그 예시입니다. 2) 범주 분류(Categorical Classifcation) - 범주 분류는 코끼라나 자전거처럼 일반 부류에 속하는 물체를 알아내는 문제로, 모양이 변하는 물체까지를 포함합니다. - 예를 들어 자전거는 세발과 두발, 외발이 있고 코끼리는 걷거나 뛰거나 누.. 2023. 12. 3.
[딥러닝 개념정리] Object Detection이란? 객체 검출이란? 이번에는 지난 시간에 알아본 컴퓨터 비전 방법 중 객체 검출(Object Detection)에 대해서 조금 더 자세히 알아보겠습니다. [딥러닝 with 파이썬] 컴퓨터 비전에서의 이미지 분류(Image Classification), 객체 검출(Object Detection), 이미지 분할(Image Segmentation)에 대한 이해 [딥러닝 with 파이썬] 컴퓨터 비전에서의 이미지 분류(Image Classification), 객체 검출(Object Detection), 컴퓨터 비전(Computer Vision)이란, 기계가 이미지를 이해하고 해석하는 능력을 개발하는 분야입니다. 해당 분야에서는 3가지의 주요 방법론이 있는데요. 이는 이미지 분류(Classification), 객체 검출(Obj ja.. 2023. 11. 11.
[딥러닝 with 파이썬] 크로스 엔트로피(Cross Entropy) 1. 크로스 엔트로피란? Cross Entropy - 크로스 엔트로피(Cross Entropy)는 두 확률 분포 간의 차이를 측정하는데 사용되는 개념입니다. 특히, 모델이 예측한 확률 분포와 실제 데이터의 분포 사이의 측정하는데 주로 활용됩니다. - 이는 분류(Classification) 문제에서 모델의 성능을 평가하는데 자주 사용되는 손실함수(Loss Function) 중 하나입니다. * Loss function, 손실함수는 머신 러닝에서 모델의 예측이 얼마나 잘못되었는지를 측정하는 함수를 말합니다. 즉, "모델이 예측한 값" 과 "실제 값" 사이의 오차 혹은 손실을 수치화하는 것으로, 이렇게 설정된 오차함수는 모델 훈련상 하나의 지표가 되어 반복되는 훈련 간 이 Loss function을 최소화 하는.. 2023. 11. 3.
[딥러닝 with 파이썬] (논문 리뷰)SegNet이란? SegNet은 " SegNet: A Deep Convolutional Encoder-Decoder Architecture for Image Segmentation" 이라는 논문에 2016년에 등장한 모델로, 이미지의 각 픽셀을 특정 클래스에 할당하는 작업인 Semantic Segementation을 수행하기 위해 개발된 딥러닝 아키텍처입니다. 이 모델은, 인코더-디코더(Encoder - Decoder) 구조 / 풀링 인덱스 사용 / 경량화된 네트워크 라는 특징을 갖고 있는 모델로서, 도로를 촬영한 영상 장면을 분할하고 내시경 이미지 분석, 위성 이미지 분석 등 다양한 응용분야에서 좋은 성능을 보여주는 모델입니다 . 1. SegNet이란 1) SegeNet이란 - 해당 논문 발표 이전 기존의 모델들에서는 .. 2023. 11. 1.
반응형