LLMs：Large Language Model Course大语言模型课程(LLM Fundamentals+The LLM Scientist+The LLM Engineer+)的简介、案例应_利用llm分析整堂课的内容

LLMs：Large Language Model Course大语言模型课程(LLM Fundamentals+The LLM Scientist+The LLM Engineer+)的简介、案例应用之详细攻略

目录

Large Language Model Course(LLM Fundamentals+The LLM Scientist+The LLM Engineer+)的简介

0、笔记Notebooks

工具

微调

量化

其他

2、LLM基础知识

切换部分

3、LLM科学

3.1、LLM架构：仅解码器GPT架构、分词、注意力机制、文本生成

3.2、构建指令数据集：Alpaca类数据集、高级技术、过滤数据、提示模板

3.3、预训练模型：数据管道、因果语言建模、缩放定律、高性能计算

3.4、监督微调：全量微调、LoRA、QLoRA、Axolotl、DeepSpeed

3.5、从人类反馈中进行强化学习：偏好数据集、PPO、DPO

3.6、评估：传统指标、通用基准、特定任务的基准、人类评估

3.7、量化：INT8、GGUF和llama.cpp、GPTQ和EXL2、AWQ

3.8、新趋势：位置嵌入、模型合并、专家混合、多模态模型

4、LLM工程化：构建应用程序，增强模型并部署

4.1、运行LLM：LLM API、开源LLM、提示工程、结构化输出

4.2、构建向量存储：提取文档、分割文档、嵌入模型、向量数据库

4.3、检索增强生成：编排器、检索器、记忆、评估

4.4、高级RAG：查询构建、代理和工具、后处理、程序LLM

4.5、推理优化：Flash Attention、KV缓存、猜测解码

4.6、部署LLM：本地部署、演示部署、服务器部署、边缘部署

4.7、保护LLM：提示攻击、后门攻击、防御措施

Large Language Model Course(LLM Fundamentals+The LLM Scientist+The LLM Engineer+)的案例应用

---

Large Language Model Course(LLM Fundamentals+The LLM Scientist+The LLM Engineer+)的简介

Large Language Model Course是一门进入大型语言模型（LLMs）的课程，包括学习路线图和Colab笔记本。LLM课程分为三个部分:
>> LLM Fundamentals涵盖了数学、Python和神经网络的基本知识。
>> LLM Scientist专注于使用最新技术建立最好的LLM。
>> LLM Engineer专注于创建基于LLM的应用程序并部署它们。

对于这门课程的互动版本，我创建了两个LLM助手，他们将以个性化的方式回答问题并测试你的知识：
>> HuggingChat助手：使用Mixtral-8x7B的免费版本。
>> ChatGPT助手：需要高级账户。

原文地址：GitHub - mlabonne/llm-course: Course to get into Large Language Models (LLMs) with roadmaps and Colab notebooks.

0、笔记Notebooks

大型语言模型相关的笔记本和文章列表。

工具