반응형 딥러닝 with Python112 [개념정리] ROCKET(RandOm Convolutional KErnel Transform) (시계열 특징 추출 / 시계열 분류) (1/2) [해당 포스팅은 "ROCKET: exceptionally fast and accurate time series classification using random convolutional kernels"(Dempster et al. 2020) 논문을 참조했습니다] 이번에 알아볼 내용은 시계열 데이터에서 시계열적 특징을 다양하게 추출하여 분류에 활용하는 방법론 중 하나인 ROCKET(RandOm Convoltuional KErnel Transform)에 대해서 알아보겠습니다. 이 방법론은 "ROCKET: exceptionally fast and accurate time series classification using random convolutional kernels"(Dempster et al. 20.. 2024. 10. 13. [개념정리] SiLU(Sigmoid Linear Unit) 활성화 함수 이번에 알아볼 내용은 활성화 함수 중 최근 모델들에 많이 사용되는 SiLU에 대해서 알아보겠습니다. 1. SiLU (Sigmoid Linear Unit) SiLU(Sigmoid Linear Unit, 또는 Swish로도 알려졌습니다)는 인공 신경망의 활성화 함수 중 하나로 아래와 같이 정의 됩니다. 여기서 σ(x) 는 Sigmoid 함수를 의미합니다. 즉, SiLU는 입력값인 x와 sigmoid 함수의 출력을 곱한 것을 최종 출력으로 도출하는 함수입니다. 이를 직관적으로 생각해보면, 부분적인 스케일링(Scaling)을 하는 것으로 보이는데요. 즉, 위 그림에서 보이듯 sigmoid 함수는 0과 1사이의 값을 도출하기 때문에,입력값 x가 양수일때 x의 크기를 유지하면서 점진적으로 축소시키고, x가 .. 2024. 10. 12. [개념정리] Graph SAGE란? Graph SAmple & aggreGatE) GraphSAGE(Graph Sample and aggreGatE)는 "Inductive Representation Learning on Large Graphs"(NIPS 17)라는 논문에 소개된 모델로, GNN의 한 종류이며, 대규모 그래프 데이터에서 효율적으로 노드의 임베딩을 학습하기 위해 설계된 방법입니다. 특히, GraphSAGE는 이웃 노드의 정보를 샘플링(Sample)하고 집계(Aggregate)하는 방식을 통해 그래프에서 노드의 표현을 학습하고, 이를 통해 매우 큰 데이터의 그래프에서 메모리와 계산 자원을 절약하며 학습할 수 있게 해주는 방식입니다. Graph SAGE의 주요 개념과 특징에 대해서 간략히 알아보겠습니다. 1. GraphSAGE의 주요 개념과 특징1) Sample neighb.. 2024. 9. 29. [개념정리] Graph Convolutional Network란? GCN이란? [해당 포스팅은 "[기초개념] Graph Convolutional Network(GCN)"(GIST 발표자료) 를 참조했습니다. 링크: https://www.slideshare.net/slideshow/graph-convolutional-network-gcn/144158888#6 ]1. 그래프 기본개념 - 그래프는 일반적으로 G = (V, E)로 정의되며 여기서 V는 노드의 집합을, E는 엣지의 집합을 의미합니다. * 노드(Node) : 각각의 노드는 속성 벡터(feature)를 가지게 됩니다. 예를 들어, SNS 그래프에서 한 노드는 사용자에 해당하며 사용자의 속성(나이, 관심사 등)이 포함된 벡터가 그 노드의 특징 벡터입니다. * 엣지(Edge) : 엣지는 노드 간의 연결을 나타내며, 엣지가 존재.. 2024. 9. 28. 이전 1 ··· 9 10 11 12 13 14 15 ··· 28 다음 반응형
