심층 피처 합성 (Deep Feature Synthesis) 개요

Source

• Evernote/Inbox/haje01의 노트 haje01.github.io.md

Summary

본 문서는 2015 년 발표된 논문 ‘Deep Feature Synthesis’를 소개하며, 관계형 데이터의 피처 엔지니어링을 자동화하는 알고리즘인 심층 피처 합성 (DFS) 을 설명합니다. DFS 는 엔터티 간 관계를 따라가며 수학 함수를 순차적으로 적용하여 피처를 생성합니다. 주요 개념으로는 엔터티 피처 (efeat), 직접 피처 (dfeat), 순방향/역방향 관계 등이 있으며, 이를 구현한 파이썬 프레임워크 Featuretools 가 언급됩니다. 저자는 이 방법을 통해 Kaggle 등 데이터 과학 경진대회에서 상위권 성적을 거두었음을 보고합니다.

Key Points

• 심층 피처 합성 (DFS) 은 관계형 데이터 세트에서 피처를 자동으로 생성하는 알고리즘이다.
• 알고리즘은 데이터의 기본 필드 관계를 따라가며 수학 함수를 순차적으로 적용하여 피처를 생성한다.
• 피처 유형에는 엔터티 피처 (efeat), 직접 피처 (dfeat), 집계 피처 (afeat) 등이 포함된다.
• 엔터티 간 관계는 순방향 (Forward) 과 역방향 (Backward) 으로 구분된다.
• 이 아이디어는 Featuretools 라는 파이썬 프레임워크로 구현되어 있다.
• 데이터 과학 머신 (DSM) 은 DFS 와 가우시안 코퓰라 프로세스 기반 튜닝을 결합하여 경진대회에서 높은 성과를 거두었다.

Related

• 심층 신경망을 이용한 통계적 파라미터 음성 합성

• Similarity Preserving Feature Selection (SPFS)

• An Unsupervised Feature Selection Framework for Social Media Data

• Spotify 의 협업 필터링 (Collaborative Filtering) 구현

• 음악 플레이리스트 자동 생성: 서베이 및 실험

• ReFr: 오픈소스 리랭커 프레임워크

• 소셜 기반 멀티미디어 콘텐츠 분산 프레임워크

• Recursivity: 진정한 기계 지능과 예측력의 비전

• Deep Learning in Speech Synthesis (Google Research Talk)

• 마이크로컨트롤러 기반 음성 합성 프로젝트

• DurIAN_4S: 말하기 데이터로부터 노래 합성 학습

• 음악 컨텍스트 데이터 기반 음악 유사도 및 추천 방법론 조사

• 뉴로모픽 컴퓨팅 개요

• Feature Ensemble Plus Sample Selection: Domain Adaptation for Sentiment Classification

• 오토인코더 (Autoencoder) 개요 및 한계

• Cross-Domain Feature Learning in Multimedia

• 내가 찾은 Deep Learning 공부 최단경로(?)

• Improved Domain Adaptation for Statistical Machine Translation

• Transfer Learning In MIR: Sharing Learned Latent Representations For Music Audio Classification And Similarity

• 자동화에 대한 신뢰 (Trust in Automation)

• Speaker Adaptation of Context Dependent Deep Neural Networks

• Coordinated Multi-Device Presentations: Ambient-Audio Identification

• SOINN (Self-Organizing Incremental Neural Network)

• Cross-Domain Multi-Event Tracking via CO-PMHT

• 예측 모델링에 대한 실용서

• iVector-based Acoustic Data Selection

• KamitaniLab DeepImageReconstruction 데이터 및 데모 코드

• AGC 및 다중 스타일 학습을 통한 소형 키워드 스포팅

• Multiprotocol Label Switching (MPLS)

• Language Modeling Capitalization

• Speech and Natural Language: Where Are We Now And Where Are We Headed

• Accurate and Compact Large Vocabulary Speech Recognition on Mobile Devices

• Language Model Verbalization for Automatic Speech Recognition

• Universal Dependency Annotation for Multilingual Parsing

• 신경망을 이용한 자기 학습 헬리콥터

• Facebook, 일부 딥러닝 도구 오픈소스화

• 오프라인 아랍어 손글씨 인식 기술 동향 (A Survey)

• Target Language Adaptation of Discriminative Transfer Parsers

• 음성 품질 지표의 배경 소음 및 네트워크 열화에 대한 강건성 비교 (VISQOL, PESQ, POLQA)

• Deep Learning via Semi-Supervised Embedding

• Defunctionalized Interpreters for Call-by-Need Evaluation

• 영어 책 코퍼스 기반 시계열 구문 N-그램 데이터셋

• Latent Mixture of Discriminative Experts (LMDE)

• Enlisting the Ghost: Modeling Empty Categories for Machine Translation

• Recurrent Neural Networks for Voice Activity Detection

• Social Event Classification via Boosted Multimodal Supervised Latent Dirichlet Allocation

• Token and Type Constraints for Cross-Lingual Part-of-Speech Tagging

• 쉽게 풀어쓴 딥러닝(Deep Learning)의 거의 모든 것

• 베이지언 계산 방법 정리 (Grid Approximation 등)

• 3음만으로 음악을 식별하는 알고리즘 개발

• 대규모 분산 음향 모델링 및 백오프 N-그램

• Active Learning through Adaptive Heterogeneous Ensembling (AHE)

• TPCKT: Two-Level Progressive Cross-Media Knowledge Transfer

• Scalable Decipherment for Machine Translation via Hash Sampling

• 기계학습 고급 컨셉 및 연구자 조언 (노영균 교수 특강)

• Affinity Weighted Embedding

• 음성 피드백 고려)

• Transfer Joint Embedding for Cross-Domain NER

• Life of Pi 의 털 렌더링 기술 (Rendering Fur in Life of Pi)

• 대규모 그래프 및 라벨 세트에서의 효율적이고 정확한 라벨 전파