반응형 딥러닝6 [딥러닝 with 파이썬] PReLU란? Parametric ReLu란? (활성화함수, Activation Function) 이번에 알아볼 것은 PReLU입니다. 활성화 함수의 한 종류로서, ReLU의 변형 형태인데요. PReLU가 어떤 특징과 장점이 있길래 사용되는지 한번 알아보겠습니다. 1. ReLU란? - PReLU에 대해서 알아보기 전에 먼저 ReLU에 대해서 알아보겠습니다. 앞서 설명드렸던 PReLU는 ReLU의 변형함수 형태이기 때문이죠 - ReLU란, Rectified Linear Unit으로 딥러닝에서 가장 많이 사용되는 활성화 함수 중 하나입니다. - 이는, 입력이 0보다 크면 입력을 그대로 출력하고, 0보다 작으면 0을 출력하는 함수인데요. 이를 수식으로 정의하면 아래와 같습니다. * ReLU(x) = max(0,x) - 그래프로 표현해보면 아래와 같습니다. - ReLU의 함수는 다음과 같은 특징을 가지고 있.. 2023. 10. 3. [딥러닝 with 파이썬] ResNet(잔차신경망)의 개념 (2/2) / CIFAR-10 활용해서 이미지 분류모델 구현 이번에는 저번 시간에 알아본 Residual Network의 개념을 바탕으로, Residual Block을 만들어보고 이를 쌓아간 Residual Network를 파이썬 코드로 구현해보겠습니다. 만들어진 모델은 CIFAR-10 데이터 셋을 분류하면서 그 효과를 알아보도록 하겠습니다. 1. CIFAR-10 데이터 셋이란? - CIFAR-10 이란, 32x32 크기의 컬러 이미지 60,000개로 구성된 이미지 분류 데이터셋을 말합니다. * 이때 뒤에 붙은 10은, 각 이미지의 종류(클래스)가 10개라는 것을 의미합니다. * 또한, 각 클래스의 분포는 균등한데요. 즉, 60,000개 중 1/10인 6,000개씩 균등하게 클래스 별 이미지가 데이터셋을 구축한다는 것을 의미합니다. - CIFAR-10 데이터 셋의.. 2023. 10. 1. 이전 1 2 다음 반응형
