当前位置:   article > 正文

android 大量代码中 grep 太慢,Python grep代码比命令行的grep慢得多

grep 多项或者搜索 -e 太慢

Python作为一种解释语言,而不是编译的C版本的grep总是比较慢。在

除此之外,您的Python实现与您的grep示例相同。它不返回匹配的行,它只是测试模式是否匹配任何一行上的字符。更进一步的比较是:grep -q 'approved="no"' FILE

它将在找到匹配项后立即返回,并且不产生任何输出。在

通过更有效地编写grep()函数,可以大大提高代码的速度:

^{pr2}$

这使用了io而不是{},我发现它更快一些。while循环条件不需要检查ret,一旦结果已知,就可以从函数返回。不需要为每个单独的ilne运行re.search(),只需连接行并执行单个搜索。在

以占用内存为代价,您可以尝试以下操作:import io

def grep_2(pattern, file_path):

with io.open(file_path, "r", encoding="utf-8") as f:

return re.search(pattern, f.read())

如果内存有问题,您可以mmap该文件并在mmap上运行regex搜索:import io

import mmap

def grep_3(pattern, file_path):

with io.open(file_path, "r", encoding="utf-8") as f:

return re.search(pattern, mmap.mmap(f.fileno(), 0, access=mmap.ACCESS_READ))

mmap将在不消耗大量内存的情况下高效地从文件中读取数据。另外,您可能会发现mmap比其他解决方案运行得更快。在

将timeit用于这些函数中的每一个都表明了这种情况:10 loops, best of 3: 639 msec per loop # grep()

10 loops, best of 3: 78.7 msec per loop # grep_1()

10 loops, best of 3: 19.4 msec per loop # grep_2()

100 loops, best of 3: 5.32 msec per loop # grep_3()

该文件是/usr/share/dict/words,包含大约480000行,搜索模式是zymurgies,它出现在文件末尾附近。为了进行比较,当pattern接近文件开头时,例如abaciscus,时间为:10 loops, best of 3: 62.6 msec per loop # grep()

1000 loops, best of 3: 1.6 msec per loop # grep_1()

100 loops, best of 3: 14.2 msec per loop # grep_2()

10000 loops, best of 3: 37.2 usec per loop # grep_3()

这再次表明mmap版本是最快的。在

现在比较grep命令与Python mmap版本:$ time grep -q zymurgies /usr/share/dict/words

real 0m0.010s

user 0m0.007s

sys 0m0.003s

$ time python x.py grep_3 # uses mmap

real 0m0.023s

user 0m0.019s

sys 0m0.004s

考虑到grep的优点,这还不算太糟。在

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/我家小花儿/article/detail/134298
推荐阅读
相关标签
  

闽ICP备14008679号