데이터과학 삼학년

Heterogeneous Graph Neural Networks for Extractive Document Summarization Abstract - cross-sentence realtion를 학습하는 것이 document summarization을 추출하는 주요 방법 - 그중 직관적인 방법은 graph based neural network에 넣어 inter sentence의 관계를 찾아내는 것임 - 논문에서 제안한 모델은 크게 graph initializer, heterogeneous graph layer, sentence selector 로 구성된 모델 - single document, multi document summarization이 모두 가능한 모델로, 공개 데이터셋을 가지고 bert를 제..

RECSIM: A Configurable Simulation Platform for Recommender System (2019) Basic Knowledge 전통적인 추천 시스템은 유저 행동에 기반한 한시적 추천에 중점을 맞추는 반면, 최근 모델들은 유저 행동과 선호를 기반으로 순차적인 상호작용을 반영하여 최적의 추천 시스템을 만들고 있음 이러한 추천방식은 collaborative interactive recomender (CIRs)로 알려져 있으며, 자연어처리와 딥러닝과 같은 영역에서 주로 사용되고 있음 최근에 google은 CIRs의 시뮬레이션 환경을 만드는 플랫폼인 RecSim을 발표함 기존 CIRs의 한계는 다른 유저들의 상호작용 시나리오에 대해 시뮬레이션하기 어렵다는 것이었음 강화학습 시스템이 ..

Multivariate recurrence plots (2004) Abstract - multivariate timeseries data를 recurrence plots 으로 계산하는 접근법에 대한 제시 (joint recurrences 를 기반) - entropy 를 측도로 이용하여 연구 (joint Rényi entropy) 양방향의 무질서한 시스템 동기화 전이(변하는 지점)을 찾기 위함 1. Introduction - 궤적 데이터의 행동을 시각화 하는 방법 → Recurrence plots (RP) - 두개의 다른 동적 시스템 사이의 관계를 나타내기 위해 진화된 버전이 cross recurrence plot (CRP) - non-stationary 하고, 짧은 주기의 시계열 데이터에도 적용 가능 ..

Forecasting at Scale (2018) - Prophet 소개 Abstract 1 Introduction 2 Features of Business Time Series 3 The Prophet Forecasting Model 3.1 The Trend Model 3.1.1 Nonlinear, Saturating Growth 3.1.2 Linear Trend with Changepoints 3.1.3 Automatic Changepoint Selection 3.1.4 Trend Forecast Uncertainty 3.2 Seasonality 3.3 Holidays and Events 3.4 Model Fitting 3.5 Analyst-in-the-Loop Modeling 4 Automating..

Anomaly Detection in Time Series Data Based on Unthresholded Recurrence Plots (2018) Abstract - 시계열 데이터에서 이상치를 감지하는 것은 매우 큰 흥미를 끌고 있다. 비선형 방법 기반의 새로운 framework을 제안함 time-dependent한 URP(Unthresholded Recurrence Plots)를 사용 시계열 데이터를 나타내는 이미지 데이터 생성하고, 비선형적인 특징을 찾기 위함 ELM-AE (Extreme Learning Machine Auto-Encoder) 를 이용 주된 URP 데이터를 학습시킨 모델 생성 잔차 계산 (residual error) 시계열 포인트에서 anomaly score로 잔차를 사용 - 해..

Universal Sentence Encoder (2018) 요약 encoding sentence를 embedding vector로 변환하는 model을 만듦 nlp task에 활용할 수 있도록 transfer learning으로 만듦 sentence 자체를 embedding 하는 개념이라 보면 됨 (word단위가 아님) model은 크게 2가지로 나눌 수 있음 Transformer Deep Averaging Network (DAN) 위 두 모델은 accuracy - compute resources에 대한 trade-off가 존재함 Accuracy (정확도) : Transformer > DAN Compute Resource (메모리 등 비용) : Transformer < DAN (DAN 이 더 좋음(유리..

* 요약 이전 선행연구는 에너지수요에서 유류가격 불확실성(변동성)의 비대칭적 효과에 대해 연구함 만약 에너지 수요가 교통수요와 연관된다면, 유가(유류가격) 변화는 유가 불확실성을 통해 고속도로 통행수요에 비대칭적 효과를 가질 것임 즉, 유가가 꾸준히 증가하면, 고속도로 교통량은 작은 폭으로 감소할 것이고, 반대로 유가가 떨어지면 교통량이 큰 폭으로 증가할 것임 본 연구는 유가 불확실성(변동성)이 고속도로 교통량에 비대칭적 효과를 발생시킬 것이라 가정 본 연구는 2001~2009년까지의 교통량 자료와 월별 유가자료를 이용함 본 연구에서 정의하는 월별 유가 불확실성(변동)은 월별 유가 변화로 정의하여 분석 연구결과, 유가 변화는 고속도로 통행수요에 비대칭적 영향을 가지고 있고, 유가 불확실성(변동)은 운전자..