Skip to content

Latest commit

 

History

History
170 lines (139 loc) · 3.88 KB

elasticsearchwriter.md

File metadata and controls

170 lines (139 loc) · 3.88 KB
Raw

DataX ElasticSearchWriter

1 快速介绍

数据导入elasticsearch的插件

2 实现原理

使用elasticsearch的rest api接口， 批量把从reader读入的数据写入elasticsearch

3 功能说明

3.1 配置样例

job.json

{
  "job": {
    "setting": {
        "speed": {
            "channel": 1
        }
    },
    "content": [
      {
        "reader": {
          ...
        },
        "writer": {
          "name": "elasticsearchwriter",
          "parameter": {
            "endpoint": "http://xxx:9999",
            "accessId": "xxxx",
            "accessKey": "xxxx",
            "index": "test-1",
            "type": "default",
            "cleanup": true,
            "settings": {"index" :{"number_of_shards": 1, "number_of_replicas": 0}},
            "discovery": false,
            "batchSize": 1000,
            "splitter": ",",
            "column": [
              {"name": "pk", "type": "id"},
              { "name": "col_ip","type": "ip" },
              { "name": "col_double","type": "double" },
              { "name": "col_long","type": "long" },
              { "name": "col_integer","type": "integer" },
              { "name": "col_keyword", "type": "keyword" },
              { "name": "col_text", "type": "text", "analyzer": "ik_max_word"},
              { "name": "col_geo_point", "type": "geo_point" },
              { "name": "col_date", "type": "date", "format": "yyyy-MM-dd HH:mm:ss"},
              { "name": "col_nested1", "type": "nested" },
              { "name": "col_nested2", "type": "nested" },
              { "name": "col_object1", "type": "object" },
              { "name": "col_object2", "type": "object" },
              { "name": "col_integer_array", "type":"integer", "array":true},
              { "name": "col_geo_shape", "type":"geo_shape", "tree": "quadtree", "precision": "10m"}
            ]
          }
        }
      }
    ]
  }
}

3.2 参数说明

  • endpoint

  • 描述：ElasticSearch的连接地址

  • 必选：是

  • 默认值：无

  • accessId

  • 描述：http auth中的user

  • 必选：否

  • 默认值：空

  • accessKey

  • 描述：http auth中的password

  • 必选：否

  • 默认值：空

  • index

  • 描述：elasticsearch中的index名

  • 必选：是

  • 默认值：无

  • type

  • 描述：elasticsearch中index的type名

  • 必选：否

  • 默认值：index名

  • cleanup

  • 描述：是否删除原表

  • 必选：否

  • 默认值：false

  • batchSize

  • 描述：每次批量数据的条数

  • 必选：否

  • 默认值：1000

  • trySize

  • 描述：失败后重试的次数

  • 必选：否

  • 默认值：30

  • timeout

  • 描述：客户端超时时间

  • 必选：否

  • 默认值：600000

  • discovery

  • 描述：启用节点发现将(轮询)并定期更新客户机中的服务器列表。

  • 必选：否

  • 默认值：false

  • compression

  • 描述：http请求，开启压缩

  • 必选：否

  • 默认值：true

  • multiThread

  • 描述：http请求，是否有多线程

  • 必选：否

  • 默认值：true

  • ignoreWriteError

  • 描述：忽略写入错误，不重试，继续写入

  • 必选：否

  • 默认值：false

  • ignoreParseError

  • 描述：忽略解析数据格式错误，继续写入

  • 必选：否

  • 默认值：true

  • alias

  • 描述：数据导入完成后写入别名

  • 必选：否

  • 默认值：无

  • aliasMode

  • 描述：数据导入完成后增加别名的模式，append(增加模式), exclusive(只留这一个)

  • 必选：否

  • 默认值：append

  • settings

  • 描述：创建index时候的settings, 与elasticsearch官方相同

  • 必选：否

  • 默认值：无

  • splitter

  • 描述：如果插入数据是array，就使用指定分隔符

  • 必选：否

  • 默认值：-,-

  • column

  • 描述：elasticsearch所支持的字段类型，样例中包含了全部

  • 必选：是

  • dynamic

  • 描述: 不使用datax的mappings，使用es自己的自动mappings

  • 必选: 否

  • 默认值: false