반응형 딥러닝10 [딥러닝 with Python] 딥러닝에서 Online과 Offline 학습 딥러닝에서 학습 방식은 Online learning(Online 학습) 과 Offline Learning(Offline 학습)으로 나뉩니다. 이 두 개념은 데이터 처리방식과 학습 과정에서의 접근 방식에 따라 차이가 있습니다. 이번 포스팅에서는 위 두 학습방식의 차이에 집중해보고자 합니다. 1. Online Learning(온라인학습)과 Offline Learning(오프라인 학습)1) Online Learning- Oline learning은 실시간으로 들어오는 데이터를 지속적으로 학습하는 방식입니다. - 즉, 데이터가 들어올때마다 모델이 업데이트 되는 방식을 말하며, 큰 데이터 셋을 한번에 모델이 학습을 할수 없기에 배치(Batch)로 나누어서 학습을 하는 일반적인 딥러닝 학습방식도 이에 해당합.. 2025. 2. 25. [딥러닝 with Python] 어텐션 (Attention Mechanism) 이번에는 지난 시간에 알아본 Seq2Seq 모델의 단점 중 하나인 Encoder를 통해 Bottleneck을 활용해 압축된 정보를 Decoder를 통해 내보내는 것은 long sentences에서는 성능 약화의 요인이 되는 점을 극복하기 위해 활용하고 있는 Attention Mecahnism에 대해서 알아보겠습니다. [딥러닝 with Python] 순환 신경망(Recurrent Neural Network) 1. Attention Mechanism이란?- 앞서 언급했듯 Attention은 Seq2Seq에서 Long sentences에서 발생하는 정보 손실 문제로 인해 나오게 되었습니다.- Attention 이란, 기계어 번역에서 큰 성능 향상을 가져온 방법으로, 이는 모델이 Output을 만들때 Input.. 2024. 11. 4. [개념정리] Graph SAGE란? Graph SAmple & aggreGatE) GraphSAGE(Graph Sample and aggreGatE)는 "Inductive Representation Learning on Large Graphs"(NIPS 17)라는 논문에 소개된 모델로, GNN의 한 종류이며, 대규모 그래프 데이터에서 효율적으로 노드의 임베딩을 학습하기 위해 설계된 방법입니다. 특히, GraphSAGE는 이웃 노드의 정보를 샘플링(Sample)하고 집계(Aggregate)하는 방식을 통해 그래프에서 노드의 표현을 학습하고, 이를 통해 매우 큰 데이터의 그래프에서 메모리와 계산 자원을 절약하며 학습할 수 있게 해주는 방식입니다. Graph SAGE의 주요 개념과 특징에 대해서 간략히 알아보겠습니다. 1. GraphSAGE의 주요 개념과 특징1) Sample neighb.. 2024. 9. 29. [개념정리] Graph Convolutional Network란? GCN이란? [해당 포스팅은 "[기초개념] Graph Convolutional Network(GCN)"(GIST 발표자료) 를 참조했습니다. 링크: https://www.slideshare.net/slideshow/graph-convolutional-network-gcn/144158888#6 ]1. 그래프 기본개념 - 그래프는 일반적으로 G = (V, E)로 정의되며 여기서 V는 노드의 집합을, E는 엣지의 집합을 의미합니다. * 노드(Node) : 각각의 노드는 속성 벡터(feature)를 가지게 됩니다. 예를 들어, SNS 그래프에서 한 노드는 사용자에 해당하며 사용자의 속성(나이, 관심사 등)이 포함된 벡터가 그 노드의 특징 벡터입니다. * 엣지(Edge) : 엣지는 노드 간의 연결을 나타내며, 엣지가 존재.. 2024. 9. 28. 이전 1 2 3 다음 반응형
