资源分享（nlp、kaggle、pytorch、datawhale）_kaggle pytorch

收藏了各种文章、github资源、赛事top方案等等

美图开启好心情

一、.机器学习、深度学习库、优秀课程

1.1 资源库

• 《ApacheCN 深度学习译文集》、各种语言、代码库官方API文档集合
• 《PyTorch官网教程》、 中文文档、《PyTorch 中文教程 1.7》
• scikit-learn官网
• AI Studio帮助文档、paddle-github地址、paddle文档
• Python语言（参考《python3.6.3中文手册》、《Python 3 教程》、《十万行代码》）、python3.10中文文档

1.2 优秀课程

• 李沐《动手学深度学习 》中文第二版，github地址、课程主页
• 百度AI产品与应用学习路线、paddle应用实践、paddle课程
• 《自然语言处理》（车万翔）配套案例代码地址
• 《深度学习基础》
• 邱锡鹏：神经网络与深度学习

1.3 优秀作者、公众号

• 网站《Python深度学习基于PyTorch》貌似是介绍了PyTorch官网的几乎所有内容。还有配套bilibili视频讲解《Python深度学习：基于Pytorch (合集)》
• 张贤笔记： 《PyTorch 学习笔记汇总（完结撒花）》、 [PyTorch 学习笔记] 6.1 weight decay 和 dropout
• 多多笔记 之《2021年如何科学的“微调”预训练模型？》
• 知乎：致Great、张贤同学、阿水公众号【Coggle数据科学】、鱼遇雨欲语与余​公众号：Coggle数据科学、苏剑林、台运鹏
• kaggle：致Great、Venkatkumar R
• 苏剑林个人主页、github

---

---

二、datawhale组队学习相关：

2.1 组队学习课程

• 优秀作业：《天国之影笔记》、于冬笔记、初晓宇笔记、胡先生笔记、pytorch视频

• 共读Hugging Face《扩散模型从原理到实战》

• 聪明办法学Python

• 2022年4月datawhale开源学习汇总

• 开源项目：深入浅出PyTorch

• 基于transformers的自然语言处理(NLP)入门、 nlp之情感分析（RNN/CNN/LSTM/BERT）

• 数据挖掘/机器学习、 数据可视化（matplotlib）、 动手学数据分析、清洗、重构、建模

• 计算机视觉（cv）、pandas数据处理与分析及讲解视频

• 集成学习（上）、集成学习（中）、 集成学习（下）、强化学习

• 统计学习要素（ELS）中文翻译、代码实现及其习题解答

• Datawhale三月学习：动手学深度学习（Pytorch）（23年3月）

• Datawhale四月学习：Datawhale 4月AIGC - ChatGPT从入门到应用 ，包含吴恩达 x OpenAI官方课程《hatGPT Prompt Engineering for Developers》的视频、项目地址（包含笔记）、进阶教程 Hugging LLM

• Datawhale八月学习《MMSegmentation语义分割全流程》、《科研论文配图绘制指南》

2.2 每月赛事学习：Coggle 30 Days of ML

• Coggle 30 Days of ML（21年10月）、打卡石墨文档、10月活动总结（含优秀打卡汇总）、

• 「Coggle 30 Days of ML」11月活动总结、打卡石墨文档

• 「Coggle 30 Days of ML」12月活动总结、打卡石墨文档

• Coggle 30 Days of ML（22年1&2月）

• Coggle 30 Days of ML 虎年3月竞赛学习、3月活动总结

• Coggle 30 Days of ML（22年7月）、活动总结

• Coggle 30 Days of ML（23年3月）：意图识别任务，包括TFIDF、FastText、BERT、Prompt文本分类，BERT、T5和GPT原理等知识。

• 2023年 世界人工智能创新大赛：中文网页自动导航挑战赛

• Coggle 30 Days of ML（23年8月）：学习资料

  • 了解GPT模型的基本原理和工作方式。
  • 探索ChatGPT在自然语言处理和人工智能领域的应用。
  • 理解prompt在使用ChatGPT时的重要性，以及对生成结果的影响。
  • 分析优秀和低效prompt的案例，从中学习如何设计更有效的prompt。

---

---

三、NLP相关

3.1 NLP相关

1. 生成对抗网络

   • 功守道：NLP中的对抗训练 + PyTorch实现
   • 《PaddleGAN预习课程》、《生成对抗网络七日打卡营》、PaddleGAN github地址
   • 《讯飞——新闻文本分类》惊鹊代码
   • bilibili视频、博客文章《NLP 中的对抗训练（附 PyTorch 实现）》
   • 《NLP中的对抗训练》、《bert 对抗训练实现代码》

2. NLP中的数据增强

   • 《一文了解NLP中的数据增强方法》及视频、《 基于自然语言解释的数据增强》、《【工大SCIR笔记】自然语言处理领域的数据增广方法》
   • 《实际业务超好用的SimBERT》、伪标签《基于半监督或自监督解决文本分类中样本不均衡问题》

3.2 transformer资源

• 知识蒸馏Distilled BiLSTM论文解读《Distilling Task-Specific Knowledge from BERT into Simple Neural Networks 》，原文链接。

• 《The Annotated Transformer》:原文以及中文翻译、datawhale地址

• 《Attention Is All You Need 原始论文中英文对照翻译》、 Attention is all you need的Pytorch实现

• 《苏神文章解析》

  • 《浅谈Transformer的初始化、参数化与标准化》
  • 《词向量与Embedding究竟是怎么回事？》
  • 《Transformer如戏，全靠Mask》

• transformer知识点：

  • 《用可视化解构BERT，我们从上亿参数中提取出了6种直观模式》

  • 深度学习之注意力机制

  • 关于BERT和Transformer的易错点

• 论文阅读：Pre-trained Models for Natural Language Processing: A Survey 综述：自然语言处理的预训练模型、《A Survey of Transformers》英文pdf

• 深度学习论文翻译：Image Classification、Object Detection、OCR

• 图神经网络论文翻译及解读

• 刘知远老师-NLP研究入门之道

• 从Word Embedding到Bert模型—自然语言处理中的预训练技术发展史

• 苏剑林博客-关于Transformers的合集

• (强推)李宏毅2021春机器学习课程：重点：self- attention ，transformer，Bert

• Transformer【动手学深度学习v2】（李沐bilibili视频）

• 张贤笔记：

  • [PyTorch 学习笔记] 6.1 weight decay 和 dropout
  • Pytorch：model.train()和model.eval()用法和区别

---

3.3 Hugging Face：

• Hugging Face主页课程 1-3译文
• Summary of the tokenizers
• Using tokenizers from
  声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/IT小白/article/detail/615602