Python中使用haystack实现django全文检索搜索引擎功能


Posted in Python onAugust 26, 2017

前言

django是python语言的一个web框架,功能强大。配合一些插件可为web网站很方便地添加搜索功能。

搜索引擎使用whoosh,是一个纯python实现的全文搜索引擎,小巧简单。

中文搜索需要进行中文分词,使用jieba。

直接在django项目中使用whoosh需要关注一些基础细节问题,而通过haystack这一搜索框架,可以方便地在django中直接添加搜索功能,无需关注索引建立、搜索解析等细节问题。

haystack支持多种搜索引擎,不仅仅是whoosh,使用solr、elastic search等搜索,也可通过haystack,而且直接切换引擎即可,甚至无需修改搜索代码。

配置搜索

1.安装相关包

pip install django-haystack
pip install whoosh
pip install jieba

2.配置django的settings

修改settings.py文件,添加haystack应用:

INSTALLED_APPS = (
  ...
  'haystack', #将haystack放在最后
)

在settings中追加haystack的相关配置:

HAYSTACK_CONNECTIONS = {
  'default': {
    'ENGINE': 'haystack.backends.whoosh_cn_backend.WhooshEngine',
    'PATH': os.path.join(BASE_DIR, 'whoosh_index'),
  }
}
# 添加此项,当数据库改变时,会自动更新索引,非常方便
HAYSTACK_SIGNAL_PROCESSOR = 'haystack.signals.RealtimeSignalProcessor'

3.添加url

在整个项目的urls.py中,配置搜索功能的url路径:

urlpatterns = [
  ...
  url(r'^search/', include('haystack.urls')),
]

4.在应用目录下,添加一个索引

在子应用的目录下,创建一个名为 search_indexes.py 的文件。

from haystack import indexes
# 修改此处,为你自己的model
from models import GoodsInfo
# 修改此处,类名为模型类的名称+Index,比如模型类为GoodsInfo,则这里类名为GoodsInfoIndex
class GoodsInfoIndex(indexes.SearchIndex, indexes.Indexable):
  text = indexes.CharField(document=True, use_template=True)
  def get_model(self):
    # 修改此处,为你自己的model
    return GoodsInfo
  def index_queryset(self, using=None):
    return self.get_model().objects.all()

说明:

1)修改上文中三处注释即可

2)此文件指定如何通过已有数据来建立索引。get_model处,直接将django中的model放过来,便可以直接完成索引啦,无需关注数据库读取、索引建立等细节。

3)text=indexes.CharField一句,指定了将模型类中的哪些字段建立索引,而use_template=True说明后续我们还要指定一个模板文件,告知具体是哪些字段

5.指定索引模板文件

在项目的“templates/search/indexes/应用名称/”下创建“模型类名称_text.txt”文件。

例如,上面的模型类名称为GoodsInfo,则创建goodsinfo_text.txt(全小写即可),此文件指定将模型中的哪些字段建立索引,写入如下内容:(只修改中文,不要改掉object)

{{ object.字段1 }}
{{ object.字段2 }}
{{ object.字段3 }}

6.指定搜索结果页面

在templates/search/下面,建立一个search.html页面。

<!DOCTYPE html>
<html>
<head>
  <title></title>
</head>
<body>
{% if query %}
  <h3>搜索结果如下:</h3>
  {% for result in page.object_list %}
    <a href="/{{ result.object.id }}/" rel="external nofollow" >{{ result.object.gName }}</a><br/>
  {% empty %}
    <p>啥也没找到</p>
  {% endfor %}

  {% if page.has_previous or page.has_next %}
    <div>
      {% if page.has_previous %}<a href="?q={{ query }}&page={{ page.previous_page_number }}" rel="external nofollow" >{% endif %}« 上一页{% if page.has_previous %}</a>{% endif %}
    |
      {% if page.has_next %}<a href="?q={{ query }}&page={{ page.next_page_number }}" rel="external nofollow" >{% endif %}下一页 »{% if page.has_next %}</a>{% endif %}
    </div>
  {% endif %}
{% endif %}
</body>
</html>

7.使用jieba中文分词器

在haystack的安装文件夹下,路径如“/home/python/.virtualenvs/django_py2/lib/python2.7/site-packages/haystack/backends”,建立一个名为ChineseAnalyzer.py的文件,写入如下内容:

import jieba
from whoosh.analysis import Tokenizer, Token
class ChineseTokenizer(Tokenizer):
  def __call__(self, value, positions=False, chars=False,
         keeporiginal=False, removestops=True,
         start_pos=0, start_char=0, mode='', **kwargs):
    t = Token(positions, chars, removestops=removestops, mode=mode,
         **kwargs)
    seglist = jieba.cut(value, cut_all=True)
    for w in seglist:
      t.original = t.text = w
      t.boost = 1.0
      if positions:
        t.pos = start_pos + value.find(w)
      if chars:
        t.startchar = start_char + value.find(w)
        t.endchar = start_char + value.find(w) + len(w)
      yield t
def ChineseAnalyzer():
  return ChineseTokenizer()

8.切换whoosh后端为中文分词

将上面backends目录中的whoosh_backend.py文件,复制一份,名为whoosh_cn_backend.py,然后打开此文件,进行替换:

# 顶部引入刚才添加的中文分词
from .ChineseAnalyzer import ChineseAnalyzer 
# 在整个py文件中,查找
analyzer=StemmingAnalyzer()

全部改为改为

analyzer=ChineseAnalyzer()

总共大概有两三处吧

9.生成索引

手动生成一次索引:

python manage.py rebuild_index

10.实现搜索入口

在网页中加入搜索框:

<form method='get' action="/search/" target="_blank">
  <input type="text" name="q">
  <input type="submit" value="查询">
</form>

丰富的自定义

上面只是快速完成一个基本的搜索引擎,haystack还有更多可自定义,来实现个性化的需求。

参考官方文档:http://django-haystack.readthedocs.io/en/master/

自定义搜索view

上面的配置中,搜索相关的请求被导入到haystack.urls中,如果想自定义搜索的view,实现更多功能,可以修改。

haystack.urls中内容其实很简单,

from django.conf.urls import url 
from haystack.views import SearchView 
urlpatterns = [ 
  url(r'^$', SearchView(), name='haystack_search'), 
]

那么,我们写一个view,继承自SearchView,即可将搜索的url导入到自定义view中处理啦。

class MySearchView(SearchView):
# 重写相关的变量或方法
template = 'search_result.html'

查看SearchView的源码或文档,了解每个方法是做什么的,便可有针对性地进行修改。

比如,上面重写了template变量,修改了搜索结果页面模板的位置。

高亮

在搜索结果页的模板中,可以使用highlight标签(需要先load一下)

{% highlight <text_block> with <query> [css_class "class_name"] [html_tag "span"] [max_length 200] %}

text_block即为全部文字,query为高亮关键字,后面可选参数,可以定义高亮关键字的html标签、css类名,以及整个高亮部分的最长长度。

高亮部分的源码位于 haystack/templatetags/lighlight.py haystack/utils/lighlighting.py文件中,可复制进行修改,实现自定义高亮功能。

总结

以上所述是小编给大家介绍的Python中使用haystack实现django全文检索搜索引擎功能,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对三水点靠木网站的支持!

Python 相关文章推荐
打印出python 当前全局变量和入口参数的所有属性
Jul 01 Python
Python中关键字is与==的区别简述
Jul 31 Python
wxpython中利用线程防止假死的实现方法
Aug 11 Python
Python线程之定位与销毁的实现
Feb 17 Python
安装好Pycharm后如何配置Python解释器简易教程
Jun 28 Python
Python序列对象与String类型内置方法详解
Oct 22 Python
Python求正态分布曲线下面积实例
Nov 20 Python
Python 使用threading+Queue实现线程池示例
Dec 21 Python
如何在python中执行另一个py文件
Apr 30 Python
PHP基于phpqrcode类库生成二维码过程解析
May 28 Python
Python wordcloud库安装方法总结
Dec 31 Python
 Python 中 logging 模块使用详情
Mar 03 Python
python读取excel表格生成erlang数据
Aug 26 #Python
使用Python实现简单的服务器功能
Aug 25 #Python
详解Python实现多进程异步事件驱动引擎
Aug 25 #Python
python基础while循环及if判断的实例讲解
Aug 25 #Python
itchat和matplotlib的结合使用爬取微信信息的实例
Aug 25 #Python
用 Python 爬了爬自己的微信朋友(实例讲解)
Aug 25 #Python
详解python基础之while循环及if判断
Aug 24 #Python
You might like
php准确计算复活节日期的方法
2015/04/18 PHP
浅析Yii2集成富文本编辑器redactor实例教程
2016/04/25 PHP
php面试中关于面向对象的相关问题
2019/02/13 PHP
js版本A*寻路算法
2006/12/22 Javascript
JQuery 初体验(建议学习jquery)
2009/04/25 Javascript
Javascript和Ajax中文乱码吐血版解决方案
2009/12/21 Javascript
js常用代码段收集
2011/10/28 Javascript
javascript alert乱码的解决方法
2013/11/05 Javascript
jquery提交form表单时禁止重复提交的方法
2014/02/13 Javascript
JavaScript数据库TaffyDB用法实例分析
2015/07/27 Javascript
利用jquery实现下拉框的禁用与启用
2016/12/07 Javascript
JS树形菜单组件Bootstrap TreeView使用方法详解
2016/12/21 Javascript
jQuery实现鼠标跟随效果
2017/02/20 Javascript
jQuery实用密码强度检测
2017/03/02 Javascript
详解JS模块导入导出
2017/12/20 Javascript
vue父组件向子组件传递多个数据的实例
2018/03/01 Javascript
如何利用@angular/cli V6.0直接开发PWA应用详解
2018/05/06 Javascript
vue + any-touch实现一个iscroll 实现拖拽和滑动动画效果
2019/04/08 Javascript
Layui实现带查询条件的分页
2019/07/27 Javascript
Vue使用Element实现增删改查+打包的步骤
2020/11/25 Vue.js
使用Python的Tornado框架实现一个一对一聊天的程序
2015/04/25 Python
Python numpy 常用函数总结
2017/12/07 Python
Python中数组,列表:冒号的灵活用法介绍(np数组,列表倒序)
2018/04/18 Python
python切片及sys.argv[]用法详解
2018/05/25 Python
PyCharm代码回滚,恢复历史版本的解决方法
2018/10/22 Python
Python定时从Mysql提取数据存入Redis的实现
2020/05/03 Python
keras .h5转移动端的.tflite文件实现方式
2020/05/25 Python
python3 中时间戳、时间、日期的转换和加减操作
2020/07/14 Python
python 爬取小说并下载的示例
2020/12/07 Python
python实现简单猜单词游戏
2020/12/24 Python
英国虚拟主机服务商:eUKhost
2016/08/16 全球购物
印度第一网上礼品店:IGP.com
2020/02/06 全球购物
学子宴答谢词
2014/01/25 职场文书
2015年消防工作总结
2015/04/24 职场文书
社区服务理念口号
2015/12/25 职场文书
优秀的商业计划书,让融资一步到位
2019/05/07 职场文书