seungbeomdo

  • 홈
  • 태그
  • 방명록

인코더-디코더 1

Deep Learning #6 Attention

1. Encoder-Decoder 구조 1.1. Encoder-Decoder 구조(=Seq2Seq) RNN이 One-to-Many, Many-to-Many 등의 다양한 구조를 갖는다는 것을 이전 RNN 포스팅에서 살펴보았다. 그 중 한 형태인 Encoder-Decoder 구조는 Many-to-Many 구조를 약간 변형한 것이라고도 볼 수 있는데, 다음과 같은 형태이다. 인코더-디코더는 이름에서 알 수 있듯이 인코더와 디코더로 이루어진 구조이다. 인코더 파트에서는 주어진 인풋 시퀀스를 히든 스테이트로 변환한다. 디코더 파트는 히든 스테이트를 받아서 아웃풋 시퀀스를 생성한다. 왜 이런 구조를 고안해냈을까? NLP의 맥락에서 이해해보자. 가령 한국어 문장을 영어로 번역하는 RNN 모델을 만든다고 하면, Man..

머신러닝&딥러닝 2023.03.02
이전
1
다음
더보기
프로필사진

  • 분류 전체보기 (132) N
    • 리스크관리&금융감독법규 (19) N
    • 파생상품&금융공학 (37)
    • 시계열&계량경제학 (30)
    • 머신러닝&딥러닝 (19)
    • 데이터분석&인과추론 (5)
    • 수학&확률이론 (0)
    • 재무론&투자론 (9)
    • 거시경제학 (4)
    • 유용한것 이것저것 (4)
    • 생활&생존&생각 (5)

Tag

회귀분석, 신용리스크, 금융, RWA, 위험가중자산, 시계열, 정상성, 계량경제학, 파생상품, 딥러닝, ols, 내부등급법, BIS, 바젤, 기업재무, 머신러닝, 내생성, 블랙숄즈머튼, 옵션, 표준방법,

최근글과 인기글

  • 최근글
  • 인기글

최근댓글

공지사항

페이스북 트위터 플러그인

  • Facebook
  • Twitter

Archives

Calendar

«   2025/05   »
일 월 화 수 목 금 토
1 2 3
4 5 6 7 8 9 10
11 12 13 14 15 16 17
18 19 20 21 22 23 24
25 26 27 28 29 30 31

방문자수Total

  • Today :
  • Yesterday :

Copyright © Kakao Corp. All rights reserved.

  • email

티스토리툴바