当前位置:   article > 正文

python提高pandas处理CSV效率的方法_panda更高csv

panda更高csv

项目场景:

对从数据库导出的原始CSV数据进行更新,使用Python完成


问题描述:

网上建议使用pandas包的DataFrame处理方便高效,比csv包好。但执行时非常慢,1600万行记录(1.6GB),跑了5小时都没结束(4列置空,1列Hash)

# 需要hash的示例代码
for field in field_list:
    for i in range(0, len(csv_df.index)):
        if not pd.isnull(csv_df[field]
  • 1
  • 2
  • 3
声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/不正经/article/detail/210240
推荐阅读
相关标签
  

闽ICP备14008679号