全文检索
- 全文检索不同于特定字段的模糊查询,使用全文检索的效率更高,并且能够对于中文进行分词处理
- haystack:django的一个包,可以方便地对model里面的内容进行索引、搜索,设计为支持whoosh,solr,Xapian,Elasticsearc四种全文检索引擎后端,属于一种全文检索的框架
- whoosh:纯Python编写的全文搜索引擎,虽然性能比不上sphinx、xapian、Elasticsearc等,但是无二进制包,程序不会莫名其妙的崩溃,对于小型的站点,whoosh已经足够使用
- jieba:一款免费的中文分词包,如果觉得不好用可以使用一些收费产品
操作
官方文档:
http://django-haystack.readthedocs.io/en/v2.4.1/tutorial.html
1. 在虚拟环境中依次安装包
安装全文检索管理模块haystack、全文搜索引擎模块whoosh和中文分词jieba
pip install django-haystack
pip install whoosh
pip install jieba
2.修改settings.py文件
- 添加应用
- 添加搜索引擎
全文检索搜索过程是由haystack模块进行操作的,所以搜索路由操作交给haystack进行处理,修改路由配置如下:
INSTALLED_APPS = (
...
'haystack',
)
HAYSTACK_CONNECTIONS = {
'default': {
'ENGINE': 'haystack.backends.whoosh_cn_backend.WhooshEngine',
'PATH': os.path.join(BASE_DIR, 'whoosh_index'),
}
}
#
自动生成索引
HAYSTACK_SIGNAL_PROCESSOR = 'haystack.signals.RealtimeSignalProcessor'
3.在项目的urls.py中添加url
#
配置全文检索路由
urlpatterns = [
...
re_path(r'^search/', include('haystack.urls')),
]
4.在应用目录下建立search_indexes.py文件
#
管理搜索的数据模型
# coding=utf-8
from haystack import indexes
from shopadmin import Good
class GoodIndex(indexes.SearchIndex, indexes.Indexable):
text = indexes.CharField(document=True, use_template=True)
def get_model(self):
return GoodsInfo
def index_queryset(self, using=None):
return self.get_model().objects.all()
5.在目录“templates/search/indexes/shopadmin/”下创建“模型类名称_text.txt”文件
#_text.txt
,这里列出了要对哪些列的内容进行检索
编辑可搜索内容
{{ object.name }}
{{ object.description }}
6.在目录“templates/search/”下建立search.html
#
构建索引展示页面
<!DOCTYPE html>
<html>
<head>
<title></title>
</head>
<body>
{% if query %}
<h3>
搜索结果如下:
</h3>
{% for result in page.object_list %}
<a href="/{{ result.object.id }}/">{{ result.object.name }}</a><br/>
{% empty %}
<p>
啥也没找到
</p>
{% endfor %}
{% if page.has_previous or page.has_next %}
<div>
{% if page.has_previous %}<a href="?q={{ query }}&page={{ page.previous_page_number }}">{% endif %}«
上一页
{% if page.has_previous %}</a>{% endif %}
|
{% if page.has_next %}<a href="?q={{ query }}&page={{ page.next_page_number }}">{% endif %}
下一页
»{% if page.has_next %}</a>{% endif %}
</div>
{% endif %}
{% endif %}
</body>
</html>
7. 建立ChineseAnalyzer.py文件
whoosh作为一个全文搜索模块,分词功能和检索功能已经非常强大,但是针对中文的处理还是比较欠缺,所以通过jieba模块重写分词操作,支持whoose对中文的强大操作
打开安装的whoosh模块目录,在python安装目录的site_packages/目录下找到对应的目录文件haystack/backends/,创建一个新的中文分词模块ChineseAnalyzer.py
- 保存在haystack的安装文件夹下,路径如“/home/python/.virtualenvs/django_py2/lib/python2.7/site-packages/haystack/backends”
- 注意:复制出来的文件名,末尾会有一个空格,记得要删除这个空格
- 初始化索引数据
import jieba
from whoosh.analysis import Tokenizer, Token
class ChineseTokenizer(Tokenizer):
def __call__(self, value, positions=False, chars=False,
keeporiginal=False, removestops=True,
start_pos=0, start_char=0, mode='', **kwargs):
t = Token(positions, chars, removestops=removestops, mode=mode,
**kwargs)
seglist = jieba.cut(value, cut_all=True)
for w in seglist:
t.original = t.text = w
t.boost = 1.0
if positions:
t.pos = start_pos + value.find(w)
if chars:
t.startchar = start_char + value.find(w)
t.endchar = start_char + value.find(w) + len(w)
yield t
def ChineseAnalyzer():
return ChineseTokenizer()
8.复制whoosh_backend.py文件,改名为whoosh_cn_backend.py
from .ChineseAnalyzer import ChineseAnalyzer
查找
analyzer=StemmingAnalyzer() #
搜索查询赋值参数
改为
analyzer=ChineseAnalyzer() #
将分析器对象更改为我们自定义的中文分词分析器
9.生成索引
python manage.py rebuild_index
10.在模板中创建搜索栏
<form method='get' action="/search/" target="_blank">
<input type="text" name="q">
<input type="submit" value="
查询
">
</form>