본문 바로가기
반응형

분류 전체보기87

[생성 AI] 오토인코더(Auto Encoder) [해당 포스팅은 "만들면서 배우는 생성 AI 2탄" 을 참조했습니다. 1. 오토 인코더(Auto Encoder) - 오토 인코더는 단순히 어떤 항목의 인코딩과 디코딩 작업을 수행하도록 훈련된 신경망을 말합니다.- 이 과정을 통해 출력이 가능한 원본에 가까워지도록 하는 결과물을 만드는 신경망을 훈련시킵니다. - 인코더(Encoder) * 역할 : 입력 데이터를 더 작은 차원의 표현으로 압축하는 역할을 합니다. 이를 통해 입력 데이터의 중요한 특징을 추출하고, 노이즈를 제거하거나 데이터의 구조적 특성을 반영할 수 있습니다. * 이때, 압축된 형태의 특징 벡터를, Latent Vector 또는 Latent Representation 이라고 합니다.  - 디코더(Decoder) * 역할 : 인코더에 의해 생성된.. 2024. 5. 26.
[Machine Learning] What is machine learning? What is ML? 1. What is machine learning 1) Machine Learning : Finding Regularity in massive datasets 2) Regularities : Knowledge forms (rules, decision trees) - Machine Learning usually uses inductive knowledge to make predictions. - The procedure of ML : Data -> Finding regularity -> Representation as diverse forms -> Prediction 3) Machine Learning (Compared to traditional programming) - ML : Input -> ML -.. 2024. 3. 6.
[개념정리] Adaptation methods Adaptation Methods의 몇 가지 종류에 대해서 알아보도록 하겠습니다. Adaptation methods 1. End-to-end Finetuning - End-to-end의 뜻은 구글을 검색해보면 다음과 같습니다. A technique where the model learns all the steps between the initial input phase and the final output phase - 즉, 입력에서 출력까지 중간에 다른 파이프라인 네트워크없이 기존의 신경망으로 한 번에 처리한다는 의미를 가지고 있습니다. - 여기서 파이프라인 네트워크란, 전체 네트워크를 이루는 부분적인 네트워크를 말합니다. - 아래 그림을 보면 바로 감이 올 건데요. - 기존의 Speech Recogn.. 2024. 3. 5.
[논문리뷰] Segmenter: Transformer for Semantic Segmentation 이번에 리뷰해볼 논문은 Segmenter: Transformer for Semantic Segmentation 입니다. 해당 논문은 2021년 ICCV에 소개된 논문이고, 2024년 2월 기준 약 1200회의 인용수를 가진 논문입니다. 해당 논문을 읽고나서 해당 논문이 기여하고 있는 부분은 모든 아키텍처가 ViT로 이루어졌으며, 이를 통해서 Semantic Segmentation에서 SOTA를 달성했다는 것입니다. 특히, 디코더 부분에서 Patch embeddings와 Class embeddings를 함께 입력하여 Semantic Segmentation을 한다는 것입니다. 논문 내용 자체가 복잡하지 않고, ViT만 이해한다면 대부분 쉽게 읽히는 논문이 되겠습니다. [개념 정리] 비전 트랜스포머 / Vis.. 2024. 2. 20.
반응형