autodl外挂vscode调试llama2_autodl怎么debug

作者：神奇cpp | 2024-08-20 19:52:54

踩

autodl怎么debug

有时想通过调试看懂大模型代码，可以借助于autodl外接vscode进行调试

思路：

最好在autodl上先创建一个pytorch的conda环境，如何创建具体参考其帮助文档，

在modelscope魔搭上下载llama2，如何下载，参考：

【手把手带你实战HuggingFace Transformers-低精度训练篇】低精度训练与大模型下载_哔哩哔哩_bilibili


from modelscope.hub.snapshot_download import snapshot_download
# model_id 模型id
# cache_dir 本地缓存目录
# ignore_file_pattern 无需下载的文件
snapshot_download(model_id="modelscope/Llama-2-7b-ms", cache_dir="/root/autodl-tmp", ignore_file_pattern=".bin")

也可以参考modelscope代码库，测试代码：

本文内容由网友自发贡献，转载请注明出处：https://www.wpsshop.cn/w/神奇cpp/article/detail/1008528