当前位置:   article > 正文

huggingface下载并加载本地数据集_huggingface下载数据集

huggingface下载数据集

具体请看官网Main classes

下载到指定路径数据集

例如:

  1. from datasets import load_dataset, load_from_disk
  2. books = load_dataset("opus100", "en-zh")
  3. books.save_to_disk('./opus100')

下载至当前页面的opus100文件夹下

下载后的文件如图所示

加载本地数据集:

ds = load_from_disk("./opus100")

 还可以转变类型

如to_csv、to_pandas、to_dict、to_json等

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/花生_TL007/article/detail/412231
推荐阅读
  

闽ICP备14008679号