반응형 Decoder2 [딥러닝 with Python] 트랜스포머 (Transformer) 이번에는 트랜스포머(Transformer) 모델에 대해서 알아보겠습니다. 너무나 유명한 논문이죠 "Attnetion is All You Need"를 바탕으로 포스팅을 구성해보았습니다. 1. Transformer- 2017년 NeurIPS에 발표된 논문 "Attention is All You Nedd"에서 제안한 아키텍처의 이름인 Transformer입니다. - 해당 모델은 어텐션(정확히는 Multi Head Self Attention)을 활용해서 모델의 성능 및 학습/추론 속도를 향상 시킨 아키텍처입니다. 해당 논문은 자연어 처리(NLP)에서 나오게 되었지만, 이를 바탕으로 다양한 Sequential data의 처리 및 이미지 데이터에서도 트랜스포머를 기반으로한 모델들이 나오게 되었으며, 그 유명한 GP.. 2024. 11. 5. [딥러닝 with 파이썬] (논문 리뷰)SegNet이란? SegNet은 " SegNet: A Deep Convolutional Encoder-Decoder Architecture for Image Segmentation" 이라는 논문에 2016년에 등장한 모델로, 이미지의 각 픽셀을 특정 클래스에 할당하는 작업인 Semantic Segementation을 수행하기 위해 개발된 딥러닝 아키텍처입니다. 이 모델은, 인코더-디코더(Encoder - Decoder) 구조 / 풀링 인덱스 사용 / 경량화된 네트워크 라는 특징을 갖고 있는 모델로서, 도로를 촬영한 영상 장면을 분할하고 내시경 이미지 분석, 위성 이미지 분석 등 다양한 응용분야에서 좋은 성능을 보여주는 모델입니다 . 1. SegNet이란 1) SegeNet이란 - 해당 논문 발표 이전 기존의 모델들에서는 .. 2023. 11. 1. 이전 1 다음 반응형
