当我们使用ES批量插入数据的时候,一般会这样写代码:
from elasticsearch import Elasticsearch,helpers es =Elasticsearch(hosts=[{‘host‘:‘localhost‘,‘port‘:9200}]) def gendata(): mywords =[‘foo‘,‘bar‘,‘baz‘] for word in mywords: yield {"_index":"mywords","_type":"document","_type":"document","doc":{"word": word}} helpersbulk(es,gendata())
但当ES的负荷过大时,这种写法可能会抛出连接超时的异常。
为了解决这个问题,在初始化ES连接对象时,可以设置一个更大的超时时间:
es = Elasticsearch(hosts=[{‘host‘: ‘localhost‘, ‘port‘: 9200}], timeout=60)
但有时候,即时设置为60秒还是有可能遇到超时异常,但这个超时时间并非越大越好,所以最好能够让ES在遇到超时的情况下自动重试。
在创建ES连接对象时,还可以再加两个参数,实现超时自动重试3次:
es = Elasticsearch(hosts=[{‘host‘: ‘localhost‘, ‘port‘: 9200}], timeout=60, max_retries=3, retry_on_timeout=True)
通过添加 max_retries
和 retry_on_timeout
两个参数,就能实现超时自动重试了。
如果你直接看ES的文档,你可能会找不到这两个参数,如下图所示。
这并非是ES的文档有问题,而是因为这两个参数隐藏在 **kwargs
里面,如下图所示。
点进 Transport
就可以看到这两个参数:
原文地址:https://www.cnblogs.com/tjp40922/p/12203610.html
时间: 2024-10-14 21:35:26