热门标签
热门文章
- 1Spark、RDD、Hive 、Hadoop-Hive 和传统关系型数据库区别_hadoop spark hive
- 2爬虫是后端吗_前端有架构吗？
- 3Windows应急响应0基础讲解国赛信安管理与评估二阶段_信息安全国赛 应急响应环境
- 4java 堆外内存是什么_深入理解堆外内存 Metaspace
- 5Inpaint-Anything_inpaint anything模型下载
- 6Python3常用代码块汇总_python3代码大全
- 7DP 滑雪(记忆化搜索）_1280：【例9.24】滑雪
- 8如何理解深度学习在人工智能发展中的地位_深度学习的地位
- 9Python自动化测试_python自动化检测
- 10Kafka分区管理（优先副本的选举、分区重新分配）_kafka重新分区流程
当前位置: article > 正文
大模型基本知识
作者：Li_阴宅 | 2024-08-20 01:15:17
赞
踩
大模型基本知识
1. 大模型资源站
- github：https://github.com/
- 魔塔：modelscpace.cn
2. 大模型架构
- 公共底座：transformer
- Encoder-Decoder架构：
- T5 - NLG
- ChatLM - NLG
- Encoder-Only架构：
- BERT：NLU
- GLM：
- 论文：https://arxiv.org/pdf/2103.10360
- 模型：https://modelscope.cn/models/ZhipuAI/chatglm3-6b/summary
- 中国唯一一家具有 OpenAI 气质的公司
- 天才般的设计
- ChatGLM3 6b
- Decoder-Only架构：
3. 模型预训练、微调
- 模型预训练：
- 各大模型都会提供自身的预训练代码和微调数据格式和代码
- 公共预训练微调框架：
- llama-factory
4. 高性能部署
- vLLM
- OpenAI API
- LMStudio 高性能推理
- llama.cpp
5. 工程落地
- LangChain
- RAG（检索增强生成）
- Agent（智能体）
声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/Li_阴宅/article/detail/1004461
推荐阅读
相关标签
