반응형 전체 글106 [개념정리] HYDRA(HYbrid Dicionary-Rocket Architecture)(1/2) [본 포스팅은 " Hydra: Competing convolutional kernels for fast and accurate time series classfication"(Dempster et al. 2022) 본 논문을 참고하였습니다.] HYDRA는 HYbrid Dicionary-Rocket Architecture 라는 이름에서 알 수 있듯이 지난번에 포스팅했었던 ROCKET 방법과 Dictionary based 방법을 결합한 시계열 데이터 특성 추출 방법이라고 보시면 되겠습니다. [개념정리] ROCKET(RandOm Convolutional KErnel Transform) (시계열 특징 추출 / 시계열 분류) (1/2)[파이썬구현] ROCKET(RandOm Convolutional KErnel T.. 2024. 10. 15. [딥러닝 with Python] ROCKET(RandOm Convolutional KErnel Transform) (시계열 특징 추출 / 시계열 분류) (2/2) 이번에는 지난 포스팅에서 알아본 개념을 바탕으로 파이썬 코드 구현을 해보도록 하겠습니다. [개념정리] ROCKET(RandOm Convolutional KErnel Transform) (시계열 특징 추출 / 시계열 분류) (1/2) ROCKET은 sklearn 과 tsai 라는 두 라이브러리에서 쉽게 구현이 가능하며, 이 중 tsai의 경우 gpu 연산을 지원하기에 딥러닝 모델에도 쉽게 적용할 수가 있어서 이번 코드 구현은 tsai를 통해서 해보겠습니다. 또한, 범용적인 구현을 위해 Google의 Colab 환경에서 무료로 제공하는 GPU인 T4를 가지고 구현했습니다. 1. ROCKET을 통한 시계열 분류1) 이번 구현에 활용할 데이터는 UCR datasetd에 있는 "FigerMovement.. 2024. 10. 14. [개념정리] ROCKET(RandOm Convolutional KErnel Transform) (시계열 특징 추출 / 시계열 분류) (1/2) [해당 포스팅은 "ROCKET: exceptionally fast and accurate time series classification using random convolutional kernels"(Dempster et al. 2020) 논문을 참조했습니다] 이번에 알아볼 내용은 시계열 데이터에서 시계열적 특징을 다양하게 추출하여 분류에 활용하는 방법론 중 하나인 ROCKET(RandOm Convoltuional KErnel Transform)에 대해서 알아보겠습니다. 이 방법론은 "ROCKET: exceptionally fast and accurate time series classification using random convolutional kernels"(Dempster et al. 20.. 2024. 10. 13. [개념정리] SiLU(Sigmoid Linear Unit) 활성화 함수 이번에 알아볼 내용은 활성화 함수 중 최근 모델들에 많이 사용되는 SiLU에 대해서 알아보겠습니다. 1. SiLU (Sigmoid Linear Unit) SiLU(Sigmoid Linear Unit, 또는 Swish로도 알려졌습니다)는 인공 신경망의 활성화 함수 중 하나로 아래와 같이 정의 됩니다. 여기서 σ(x) 는 Sigmoid 함수를 의미합니다. 즉, SiLU는 입력값인 x와 sigmoid 함수의 출력을 곱한 것을 최종 출력으로 도출하는 함수입니다. 이를 직관적으로 생각해보면, 부분적인 스케일링(Scaling)을 하는 것으로 보이는데요. 즉, 위 그림에서 보이듯 sigmoid 함수는 0과 1사이의 값을 도출하기 때문에,입력값 x가 양수일때 x의 크기를 유지하면서 점진적으로 축소시키고, x가 .. 2024. 10. 12. [개념정리] Graph SAGE란? Graph SAmple & aggreGatE) GraphSAGE(Graph Sample and aggreGatE)는 "Inductive Representation Learning on Large Graphs"(NIPS 17)라는 논문에 소개된 모델로, GNN의 한 종류이며, 대규모 그래프 데이터에서 효율적으로 노드의 임베딩을 학습하기 위해 설계된 방법입니다. 특히, GraphSAGE는 이웃 노드의 정보를 샘플링(Sample)하고 집계(Aggregate)하는 방식을 통해 그래프에서 노드의 표현을 학습하고, 이를 통해 매우 큰 데이터의 그래프에서 메모리와 계산 자원을 절약하며 학습할 수 있게 해주는 방식입니다. Graph SAGE의 주요 개념과 특징에 대해서 간략히 알아보겠습니다. 1. GraphSAGE의 주요 개념과 특징1) Sample neighb.. 2024. 9. 29. [개념정리] Graph Convolutional Network란? GCN이란? [해당 포스팅은 "[기초개념] Graph Convolutional Network(GCN)"(GIST 발표자료) 를 참조했습니다. 링크: https://www.slideshare.net/slideshow/graph-convolutional-network-gcn/144158888#6 ]1. 그래프 기본개념 - 그래프는 일반적으로 G = (V, E)로 정의되며 여기서 V는 노드의 집합을, E는 엣지의 집합을 의미합니다. * 노드(Node) : 각각의 노드는 속성 벡터(feature)를 가지게 됩니다. 예를 들어, SNS 그래프에서 한 노드는 사용자에 해당하며 사용자의 속성(나이, 관심사 등)이 포함된 벡터가 그 노드의 특징 벡터입니다. * 엣지(Edge) : 엣지는 노드 간의 연결을 나타내며, 엣지가 존재.. 2024. 9. 28. [개념정리] 그래프 신경망(Graph Neural Network / GNN) (3) [본 포스팅은 다음 블로그를 참조하여 작성하였습니다. https://viso.ai/deep-learning/graph-neural-networks/] Graph Neural Networks (GNNs) - 2024 Comprehensive Guide - viso.aiGraph Neural Networks (GNNs) operate on graph-structured data, enabling them to learn relationships and patterns within complex networks.viso.ai [개념정리] 그래프 신경망(Graph Neural Network / GNN) (1) [개념정리] 그래프 신경망(Graph Neural Network / GNN) (1)1. 그래프 신경망이.. 2024. 8. 2. [개념정리] 그래프 신경망(Graph Neural Network / GNN) (2) [본 포스팅은 다음 포스팅의 내용을 참조하여 작성하였습니다. https://viso.ai/deep-learning/graph-neural-networks/] Graph Neural Networks (GNNs) - 2024 Comprehensive Guide - viso.aiGraph Neural Networks (GNNs) operate on graph-structured data, enabling them to learn relationships and patterns within complex networks.viso.ai GNN에 대한 개략적인 개념과 이해는 이전 포스팅을 참조해주시면 되겠습니다.[개념정리] 그래프 신경망(Graph Neural Network / GNN) (1) [개념정리] 그래프.. 2024. 8. 1. 이전 1 2 3 4 ··· 14 다음 반응형
