随着大模型的进步, AI工程方面变得越发火热, 相比较算法从业者, 对于AI的工程方面, 知识的广度是一件很重要的事情, 我们可能不仅需要懂一些算法的基础知识, pytorch框架, 需要懂后端的搭建, 也需要懂sys底层方向的一些优化, 例如推理优化等等
作为本科小白, 我也是成为了这方向的一员, 所以我立下这个笔记, 其实就是想尽我所能地去完善自己的领域知识储备
- CPP: 作为sys方向的必不可少的语言, 学习CPP可以增强自己对于底层的理解, 同时也为学好cuda打一下基础
- CUDA: 推理加速为了适配各种底层硬件, cuda确实是一件必不可少但是比较困难的事情
- python: 深度学习的基础, 以及我们去搭建后端框架, 搭建一些算法服务, 其实都是首选的语言, 易学难精的特性, 也注定了我们需要一段比较长的时间周期去磨合这个伙伴
- PyTorch/TensorFlow: 深度学习框架, 虽然这个项目更加侧重工程从业者, 但是了解一些算法知识我认为是有必要的
- vllm: 推理框架, 考验底层的一些能力
本文你可以当做:
- CPP/Python八股速记
- 算法入门笔记
- 框架熟悉 and 应用笔记
- cuda入门/进阶指南
本项目其实并不会像小林coding一样, 去从最基础的东西讲起, 可能更像是一个"面试速记", 我会去记录我学习过程中的一些困惑, 以及一些难点, 以此来对抗自己的知识遗忘
本项目会长期更新, 随着我工作的时间变久, 希望这个项目也会变得更加完善, 你我共同进步