Python将json文件写入ES数据库的方法


Posted in Python onApril 10, 2019

1、安装Elasticsearch数据库

PS:在此之前需首先安装Java SE环境

下载elasticsearch-6.5.2版本,进入/elasticsearch-6.5.2/bin目录,双击执行elasticsearch.bat 打开浏览器输入http://localhost:9200 显示以下内容则说明安装成功

Python将json文件写入ES数据库的方法

安装head插件,便于查看管理(还可以用kibana)

首先安装Nodejs(下载地址https://nodejs.org/en/)

再下载elasticsearch-head-master包解压到/elasticsearch-6.5.2/下(链接: https://pan.baidu.com/s/1q3kokFhpuJ2Q3otPgu7ldg

提取码: 1rpp

修改配置文件elasticsearch-6.5.2\config\elasticsearch.yml如下:

Python将json文件写入ES数据库的方法

进入elasticsearch-head-master目录下执行npm install -g grunt-cli,再执行npm install安装依赖

elasticsearch-head-master目录下找到Gruntfile.js文件修改服务器监听地址如下:

Python将json文件写入ES数据库的方法

执行grunt server命令启动head服务

Python将json文件写入ES数据库的方法

访问地址 http://localhost:9100/ 即可访问head管理页面

Python将json文件写入ES数据库的方法

2、将json文件写入ES数据库(py脚本如下)

# -*- coding: UTF-8 -*-
from itertools import islice
import json , sys
from elasticsearch import Elasticsearch , helpers
import threading
_index = 'indextest' #修改为索引名
_type = 'string'  #修改为类型名
es_url = 'http://192.168.116.1:9200/' #修改为elasticsearch服务器
reload(sys)
sys.setdefaultencoding('utf-8')
es = Elasticsearch(es_url)
es.indices.create(index=_index, ignore=400)
chunk_len = 10
num = 0
def bulk_es(chunk_data):
 bulks=[]
 try:
  for i in xrange(chunk_len):
   bulks.append({
     "_index": _index,
     "_type": _type,
     "_source": chunk_data[i]
    })
  helpers.bulk(es, bulks)
 except:
  pass
with open(sys.argv[1]) as f:
 while True:
  lines = list(islice(f, chunk_len))
  num =num +chunk_len
  sys.stdout.write('\r' + 'num:'+'%d' % num)
  sys.stdout.flush()
  bulk_es(lines)
  if not lines:
   print "\n"
   print "task has finished"
   break

总结

以上所述是小编给大家介绍的Python将json文件写入ES数据库的方法,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对三水点靠木网站的支持!

如果你觉得本文对你有帮助,欢迎转载,烦请注明出处,谢谢!

Python 相关文章推荐
python 查找文件夹下所有文件 实现代码
Jul 01 Python
python中self原理实例分析
Apr 30 Python
探究Python多进程编程下线程之间变量的共享问题
May 05 Python
Python基于Tkinter实现的记事本实例
Jun 17 Python
matplotlib设置legend图例代码示例
Dec 19 Python
Python实现按中文排序的方法示例
Apr 25 Python
详解python播放音频的三种方法
Sep 23 Python
带你彻底搞懂python操作mysql数据库(cursor游标讲解)
Jan 06 Python
Django全局启用登陆验证login_required的方法
Jun 02 Python
浅谈OpenCV中的新函数connectedComponentsWithStats用法
Jul 05 Python
Python如何实现远程方法调用
Aug 07 Python
教你如何使用Python下载B站视频的详细教程
Apr 29 Python
pycharm创建一个python包方法图解
Apr 10 #Python
Python socket模块实现的udp通信功能示例
Apr 10 #Python
python爬虫基础教程:requests库(二)代码实例
Apr 09 #Python
一个可以套路别人的python小程序实例代码
Apr 09 #Python
Python装饰器限制函数运行时间超时则退出执行
Apr 09 #Python
详解Python 解压缩文件
Apr 09 #Python
Python使用pandas和xlsxwriter读写xlsx文件的方法示例
Apr 09 #Python
You might like
基于header的一些常用指令详解
2013/06/06 PHP
分享50个提高PHP执行效率的技巧
2015/12/26 PHP
php使用lua+redis实现限流,计数器模式,令牌桶模式
2019/04/04 PHP
Laravel如何创建服务器提供者实例代码
2019/04/15 PHP
JS 强制设为首页的代码
2009/01/31 Javascript
extjs 如何给column 加上提示
2014/07/29 Javascript
JS判断是否360安全浏览器极速内核的方法
2015/01/29 Javascript
深入理解JavaScript系列(42):设计模式之原型模式详解
2015/03/04 Javascript
Bootstrap按钮下拉菜单组件详解
2016/05/10 Javascript
详解js的延迟对象、跨域、模板引擎、弹出层、AJAX【附实例下载】
2016/12/19 Javascript
vue2.0父子组件及非父子组件之间的通信方法
2017/01/21 Javascript
浅谈JavaScript作用域和闭包
2017/09/18 Javascript
vuejs选中当前样式active的实例
2018/08/22 Javascript
对angular 监控数据模型变化的事件方法$watch详解
2018/10/09 Javascript
css配合JavaScript实现tab标签切换效果
2018/10/11 Javascript
面试题:react和vue的区别分析
2019/04/08 Javascript
详解ES6 export default 和 import语句中的解构赋值
2019/05/28 Javascript
js实现窗口全屏示例详解
2019/09/17 Javascript
[03:04]DOTA2英雄基础教程 影魔
2013/12/11 DOTA
Python生成pdf文件的方法
2014/08/04 Python
Python 实现两个服务器之间文件的上传方法
2019/02/13 Python
python覆盖写入,追加写入的实例
2019/06/26 Python
在python中实现同行输入/接收多个数据的示例
2019/07/20 Python
python实现电子词典
2020/03/03 Python
python删除指定列或多列单个或多个内容实例
2020/06/28 Python
termux中matplotlib无法显示中文问题的解决方法
2021/01/11 Python
HTMl5的存储方式sessionStorage和localStorage详解
2014/03/18 HTML / CSS
意大利专业化妆品品牌:KIKO MILANO
2017/02/01 全球购物
倩碧澳大利亚官网:Clinique澳大利亚
2019/07/22 全球购物
美国踏板车和轻便摩托车销售网站:Mega Motor Madness
2020/02/26 全球购物
澳大利亚在线划船、露营和钓鱼商店:BCF Australia
2020/03/22 全球购物
网络方面基础面试题
2012/11/16 面试题
公司周年庆典策划方案
2014/05/17 职场文书
酒店前台辞职书
2015/02/26 职场文书
Python使用scapy模块发包收包
2021/05/07 Python
MySQL千万级数据表的优化实战记录
2021/08/04 MySQL