侯体宗的博客
  • 首页
  • Hyperf版
  • beego仿版
  • 人生(杂谈)
  • 技术
  • 关于我
  • 更多分类
    • 文件下载
    • 文字修仙
    • 群聊
    • 九宫格抽奖
    • 拼图
    • 消消乐
    • 相册

docker + elasticsearch + hanlp分词器架构环境的搭建配置流程步骤

Docker  /  管理员 发布于 3星期前   47

1.docker方式安装elasticsearch

1.1 docker编排dockerfile文件编写

version: "2.2"
services:
  elasticsearch:
    image: docker.elastic.co/elasticsearch/elasticsearch:7.10.2
    container_name: elk-es
    restart: always
    environment:
      # 开启内存锁定
      - bootstrap.memory_lock=true
      - "ES_JAVA_OPTS=-Xms512m -Xmx512m"
      # 指定单节点启动
      - discovery.type=single-node
    ulimits:
      # 取消内存相关限制 用于开启内存锁定
      memlock:
        soft: -1
        hard: -1
    volumes:
      - ./data/es/data:/usr/share/elasticsearch/data
      - ./data/es/logs:/usr/share/elasticsearch/logs
      - ./data/es/plugins:/usr/share/elasticsearch/plugins
      - ./data/es/config/analysis-hanlp:/usr/share/elasticsearch/config/analysis-hanlp
      - ./data/es/config/jvm.options:/usr/share/elasticsearch/config/jvm.options
    ports:
      - 9200:9200

ps:

linux需要记得给data目录权限


1.2 启动docker + elasticsearch环境

docker-compose up -d 


2.安装hanlp分词器

hanlp分词器库:

https://github.com/KennFalcon/elasticsearch-analysis-hanlp

在容器内运行:

./bin/elasticsearch-plugin install https://github.com/KennFalcon/elasticsearch-analysis-hanlp/releases/download/v6.5.4/elasticsearch-analysis-hanlp-6.5.4.zip

ps:

此处的hanlp的版本要和docker中es的版本一致,README文件中有详细写的注意看


2.1 安装分词模型

这个库的作者认为一些模型不是所有人都需要,所以默认是不带crf和nlp模型的,

需要去 

github.com/hankcs/HanLP/releases 

下载对应版本的数据包,需要注意版本,安装之后需要重启docker


安装crf模型:

先去下载对应的数据包,找到 data/model 中的 crf 文件夹,

将此文件夹放入 一下文件夹

data/es/plugins/analysis-hanlp/data/model 

ps:

a.本来的plugin-security.policy中的FilePermission会导致es报错,

记得修改为:

// HanLP data directories
//permission java.io.FilePermission "plugins/analysis-hanlp/data/-", "read,write,delete";
//permission java.io.FilePermission "plugins/analysis-hanlp/hanlp.cache", "read,write,delete";
permission java.io.FilePermission "<<ALL FILES>>", "read,write,delete";


b.hanlp分词模型安装之后重启docker,如果不做处理会报错说找不到hanlp.properties文件,

解决方案:就是在dockerfile提前将几个关键文件挂载出来

   - ./data/es/config/analysis-hanlp:/usr/share/elasticsearch/config/analysis-hanlp
   - ./data/es/config/jvm.options:/usr/share/elasticsearch/config/jvm.options

解决完以上问就可以使用hanlp分词了


看看官方效果demo:

POST http://localhost:9200/twitter2/_analyze
{
  "text": "美国阿拉斯加州发生8.0级地震",
  "tokenizer": "hanlp"
}
{
  "tokens" : [
    {
      "token" : "美国",
      "start_offset" : 0,
      "end_offset" : 2,
      "type" : "nsf",
      "position" : 0
    },
    {
      "token" : "阿拉斯加州",
      "start_offset" : 0,
      "end_offset" : 5,
      "type" : "nsf",
      "position" : 1
    },
    {
      "token" : "发生",
      "start_offset" : 0,
      "end_offset" : 2,
      "type" : "v",
      "position" : 2
    },
    {
      "token" : "8.0",
      "start_offset" : 0,
      "end_offset" : 3,
      "type" : "m",
      "position" : 3
    },
    {
      "token" : "级",
      "start_offset" : 0,
      "end_offset" : 1,
      "type" : "q",
      "position" : 4
    },
    {
      "token" : "地震",
      "start_offset" : 0,
      "end_offset" : 2,
      "type" : "n",
      "position" : 5
    }
  ]
}

  • 上一条:
    在go语言中用接口进行数组映射示例代码
    下一条:
    Laravel 9.47版本发布
  • 昵称:

    邮箱:

    0条评论 (评论内容有缓存机制,请悉知!)
    最新最热
    • 分类目录
    • 人生(杂谈)
    • 技术
    • linux
    • Java
    • php
    • 框架(架构)
    • 前端
    • ThinkPHP
    • 数据库
    • 微信(小程序)
    • Laravel
    • Redis
    • Docker
    • Go
    • swoole
    • Windows
    • Python
    • 苹果(mac/ios)
    • 相关文章
    • docker + elasticsearch + hanlp分词器架构环境的搭建配置流程步骤(0个评论)
    • windows10 + podman desktop安装流程步骤(0个评论)
    • windows10中docker desktop安装使用Meilisearch全文搜索引擎服务流程步骤(0个评论)
    • windows10+docker编排实现php多版本共存之自用dnmp开发环境分享(0个评论)
    • k8s中安装PostgreSQL、pgadmin及yaml编写示例代码(0个评论)
    • 近期文章
    • zongscan祝大家2023元宵节快乐(0个评论)
    • 2023年国内最新注册苹果开发者账号之申请邓白氏编码流程步骤(0个评论)
    • 2023年国内最新注册苹果个人开发者账号及支付会员年费流程步骤(0个评论)
    • 在js中使用URL类用来解析处理URL的示例代码(0个评论)
    • js中动画事件:requestAnimationFrame、transitionend、animation...(0个评论)
    • Laravel 9.49版本发布(0个评论)
    • 在Laravel应用程序如何减少代码重复编写(0个评论)
    • 在laravel项目中提高安全性方式推荐:CSP内容安全策略(0个评论)
    • 在go语言中从值中获取常量名称代码示例(0个评论)
    • 在go语言中如何通过名称获得结构字段和值代码示例(0个评论)
    • 近期评论
    • 博主 在

      2023年国务院办公厅春节放假通知:1月21日起休7天中评论 @ xiaoB 你只管努力,剩下的叫给天意;天若有情天亦老,..
    • xiaoB 在

      2023年国务院办公厅春节放假通知:1月21日起休7天中评论 会不会春节放假后又阳一次?..
    • BUG4 在

      你翻墙过吗?国内使用vpn翻墙可能会被网警抓,你需了解的事中评论 不是吧?..
    • 博主 在

      go语言+beego框架中获取get,post请求的所有参数中评论 @ t1  直接在router.go文件中配就ok..
    • Jade 在

      如何在MySQL查询中获得当月记录中评论 Dear zongscan.com team, We can skyroc..
    • 2017-11
    • 2020-06
    • 2021-05
    • 2021-08
    • 2021-09
    • 2021-10
    • 2021-11
    • 2021-12
    • 2022-01
    • 2022-02
    • 2022-03
    • 2022-07
    • 2022-08
    • 2022-09
    • 2022-11
    • 2023-01
    Top

    Copyright·© 2019 侯体宗版权所有· 粤ICP备20027696号 PHP交流群

    侯体宗的博客