본문 바로가기
반응형

딥러닝 with Python110

[딥러닝 with Python] NCE란?(Noise Contrastive Estimation) NCE는 Noise Contrastive Estimation의 약자로, 머신러닝 및 자연어 처리(NLP)에서 자주 사용되는 확률 밀도 추정 기법을 말합니다.  NCE는 특히 복잡한 확률 분포를 추정하는 과정을 간단히 하고 계산량을 줄이는데 초점을 맞추고 있는데요.   이번편에서는 NCE의 개념과 작동 방식, 그리고 예시를 통해서 보다 심층적으로 이해해보도록 하겠습니다. 1. NCE란?- NCE란, 데이터를 기반으로 한 실제 분포와 노이즈 분포를 구별하도록 학습하는 방법을 말합니다.- 일반적인 확률 모델은 확률 분포 p(x)를 직접적으로 추정하려고 하지만, NCE는 이 분포를 추정하는 대신 실제 분포와 노이즈 분포를 분류하는 이진 분류 문제로 전환하여 계산 및 성능적으로 효율성을 보이는데요 - NCE의 핵.. 2024. 12. 15.
[딥러닝 with Python] GraphSAGE를 활용한 논문 분류(Node Classification) 이번에는 지난번에 알아본 GNN 중 GraphSAGE 방법을 활용해서 노드 분류(Node Classification)을 진행해보겠습니다. 실습에 활용할 데이터는 Cora 입니다. 1. Cora Dataset 설명 Cora 데이터셋은 그래프 데이터 분석에서 널리 사용되는 표준 데이터 중 하나입니다. 특히, 논문 간의 인용 관계를 나타내는 정보와 함께 그래프 신경망(GNN)을 학습하고 평가하는데 자주 사용됩니다. Cora 데이터셋의 구성은 아래와 같습니다. 1) 노드 : Cora 데이터셋에서의 각 노드는 개별 논문을 의미합니다. 2) 엣지 : 노드 간의 엣지는 논문 간의 인용 관계를 나타냅니다. 예를 들어, 논문 A가 논문 B를 인용했다면 A와 B 사이에 엣지가 존재합니다. 3) 노드 특징(Node Feat.. 2024. 12. 9.
[딥러닝 with Python] LangGraph란? 1. LangGraph란? LangGraph는 자연어 처리(NLP)와 인공지능(AI) 응용 프로그램 개발을 위한 프레임워크로, 복잡한 언어 모델과 상호작용하면서 데이터를 효율적으로 처리하고 활용할 수 있는 시스템을 제공하고 있습니다. https://www.langchain.com/langgraph LangGraphDeploy your LLM app instantly with LangServe.www.langchain.com Lang Graph의 주요 특징은 아래와 같습니다. 1) 복잡한 언어 모델 통합 - GPT, BERT와 같은 대규모 언어 모델과 손쉽게 통합하여, 언어 모델의 강력한 기능을 활용하 수 있도록 지원 - 여러 모델 간의 상호작용을 효율적으로 관리하여, 응답 생성 및 데이터 분석 2) 다양.. 2024. 12. 7.
[딥러닝 with Python] LSTM을 활용한 회귀 분석 이번 포스팅은 지난번에 알아본 LSTM의 개념을 바탕으로 실습을 해보는 내용입니다. 1. LSTM을 활용한 회귀 분석- LSTM은 RNN의 한 종류로, 시계열 데이터 분석에 효과적인 구조를 가지고 있습니다. LSTM은 시간 의존성이 긴 데이터에서도 중요한 패턴을 학습할 수 있도록 설계되었으며, 회귀 분석에서는 연속적인 값 예측, 주가 분석, 온도 예측 등 다양한 연속형 데이터 문제에 활용될 수 있습니다. - LSTM을 시계열 데이터의 회귀 분석에 활용 시 다음과 같은 장점들이 있습니다. 1) 시간 의존성 학습 : 시계열 데이터에서 이전 시점의 정보를 사용해 현재 시점의 결과를 예측할 수 있습니다. 2) 장기 의존성 해결 : LSTM의 게이트 구조(입력, 망각, 출력 게이트)는 RNN의 단점인 장기 의존성.. 2024. 12. 3.
반응형