level2_dkt-recsys-04

1. 프로젝트 개요

1-1. 프로젝트 주제

사용자의 "지식 상태"를 추적하는 딥러닝 방법론인 DKT(Deep Knowledge Tracing) 모델을 구축하고, 사용자가 최종 문제를 맞출지 틀릴지 예측하는 것

1-2. 활용 장비 및 재료

ai stage server : V100 GPU x 5

python==3.10.1
torch==1.7.1
CUDA==11.0

1-3. 프로젝트 구조 및 사용 데이터셋의 구조도(연관도)

level2_dkt-recsys-04
├── README.md
├── code
│   ├── FM
│   │   └── src
│   │       ├── data
│   │       │   ├── __init__.py
│   │       │   ├── context_data.py
│   │       │   └── dataset.py
│   │       ├── train
│   │       │   └── trainer.py
│   │       └── utils.py
│   ├── MF
│   │   ├── MF_util
│   │   ├── README.md
│   │   └── main.py
│   ├── __init__.py
│   ├── boosting
│   │   ├── README.md
│   │   ├── boosting_util
│   │   │   └── utils.py
│   │   ├── inference.py
│   │   └── train.py
│   ├── ensembles
│   ├── light-gcn
│   │   ├── README.md
│   │   ├── inference.py
│   │   ├── lightgcn_utils
│   │   └── train.py
│   ├── oof-stacking
│   │   ├── README.md
│   │   ├── main.py
│   │   └── oof_stacking_util
│   ├── sequence
│   │   ├── README.md
│   │   ├── inference.py
│   │   ├── pyproject.toml
│   │   ├── sequence_utils
│   │   ├── train.py
│   │   └── tune.py
│   └── utils
└── gitignore

2. 프로젝트 팀 구성 및 역할

이름	역할
김수민_T5040	Catboost, LightGCN 모델 구현, 하이퍼 파라미터 튜닝, OOF-Stacking
박예림_T5088	Cross-Validation 구현, 하이퍼 파라미터 튜닝, XGBoost 모델 구현
임도현_T5170	Sequential 모델, 변수 선택, 하이퍼 파라미터 튜닝, Stacking 메타 모델 구현
임우열_T5173	Boosting 모델 구현, Feature Engineering, OOF-Stacking, Visualization Output
임지수_T5176	Latent Vector 모델 구현, Feature Engineering, Error Analysis, Visualization Output

3. 프로젝트 수행 절차 및 방법

4. 단일 모델 결과

Model	valid_auc
CatBoost	0.8588
XGBoost	0.8012
LGBM	0.6944
LightGCN	0.7661
LSTM	0.7998
LSTMATTN	0.8278
Last Query Transformer RNN	0.8256
BERT	0.8327
SAINT	0.8351
SAINT+	0.6107

5. 최종 제출

Models	public_auc	public_acc
CatBoost, LGBM, LightGCN	0.8225	0.7446
CatBoost, LGBM	0.8131	0.7527

6. 최종 순위

public score

private score