AlfaHack 📈

Модель для предсказания склонности к инвестициям 📊. Разработана в рамках ML-хакатона Альфа-Банка 💎.

Описание

Модель машинного обучения для предсказания склонности физических лиц к инвестициям 💵. Основная задача проекта — определить вероятность, с которой клиент примет решение инвестировать свои средства, основываясь на предоставленных данных 🗄.

Ключевые этапы работы:

• Сбор и предобработка данных: объединение и сжатие признаков с помощью анализа главных компонент (PCA)
• Оптимизация гиперпараметров: подбор оптимальных настроек для моделей с использованием библиотеки Optuna
• Обучение моделей: использование алгоритмов CatBoost, LightGBM и HistGradientBoostingClassifier для достижения высокой точности
• Ансамблирование: объединение предсказаний всех моделей для повышения качества результатов
• Оценка модели: основным критерием успешности решения стала метрика ROC-AUC

Технологии и инструменты

Особенности разработки:

• Проект написан за 12 дней в рамках хакатона AlfaHack
• Python с библиотеками Pandas и NumPy для обработки данных
• scikit-learn, CatBoost и LightGBM для создания и обучения моделей машинного обучения
• Optuna для оптимизации гиперпараметров
• Jupyter Notebook для разработки и тестирования
• Для реализации модели использовался набор данных, доступный по ссылке
• Git для управления проектом и контроля версий

Структура проекта

• data_preprocessing.py — модуль для загрузки и предобработки данных. Используется метод главных компонент (PCA) для уменьшения размерности признаков.
• model_tuning.py — модуль для оптимизации гиперпараметров моделей (CatBoost, LightGBM, HistGradientBoosting) с помощью библиотеки Optuna.
• model_training.py — модуль для обучения моделей с использованием лучших гиперпараметров.
• prediction.py — модуль для создания предсказаний, их ансамблирования и сохранения результатов в формате CSV.
• main.py — главный скрипт, который запускает весь процесс обработки, обучения моделей и предсказаний.
• requirements.txt — список всех зависимостей, необходимых для работы проекта.

Начало работы

git clone https://github.com/id-andyyy/AlfaHack.git
cd AlfaHack
pip install -r requirements.txt
python main.py

Обратная связь

Буду признателен, если вы поставите звезду ⭐. Если вы нашли баг или у вас есть предложения по улучшению, используйте раздел Issues.

Команда

Команда разработчиков Mojarung:

• Андрей Обрезков (Data Scientist)
• Кирилл Вериялов (ML Engineer)
• Владислав Полицын (ML Engineer)
• Артем Мелихов (Data Scientist)

Read in English 🇬🇧