Gse v0.10.0 发布了, Go 高性能分词

栏目: 软件资讯 · 发布时间: 8年前

内容简介:Go 语言高效分词, 支持英文、中文、日文等 词典用双数组trie(Double-Array Trie)实现, 分词器算法为基于词频的最短路径加动态规划。 支持普通和搜索引擎两种分词模式,支持用户词典、词性标注,可运行JSON RP...

Go 语言高效分词, 支持英文、中文、日文等

词典用双数组trie(Double-Array Trie)实现, 分词器算法为基于词频的最短路径加动态规划。

支持普通和搜索引擎两种分词模式,支持用户词典、词性标注,可运行JSON RPC服务。

package main


import (
"fmt"


"github.com/go-ego/gse"
)


func main() {
var seg gse.Segmenter
seg.LoadDict("zh,testdata/test_dict.txt,testdata/test_dict1.txt")


text1 := []byte("你好世界, Hello world")


segments := seg.Segment(text1)
fmt.Println(gse.ToString(segments, false))
}

Danube River

Add  

  • [NEW] 增加加载词典错误行检测

  • [NEW] 增加不同语言词典缩写

  • [NEW] 增加模式分词方法

  • [NEW] 增加自定义字典你在 

  • [NEW] 更多测试

  • [NEW] 更新测试工具

Update

  • [NEW] 更新 tool 和 benchmark 代码

  • [NEW] 更新 cedar 代码

  • [NEW] 简化代码 name

  • [NEW] 更新 README.md

  • [NEW] 细分代码方法

  • [NEW] 更新版本并使用 dep 管理包

  • [NEW] 优化字典加载

  • [NEW] 更新 log print 和文件名

Fix

  • [FIX] Format some code and fix godoc


【声明】文章转载自:开源中国社区 [http://www.oschina.net]


以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持 码农网

查看所有标签

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

现代应用数学手册

现代应用数学手册

《现代应用数学手册》编委会 / 清华大学出版社 / 2005-1-1 / 48.00元

本书是进行科学计算的常备工具书,内容新颖,查阅方便,实用性强。主要介绍生产、科研、管理、数学等实践中在计算机上使用的各种计算方法和技巧。全书分为14章,依次为数值计算概论、插值法、函数逼近与曲线拟合、数值积分与数值微分、方程求根、线性方程组的直接解法和迭代解法、矩阵特征值问题、非线性方程组数值解与最优化方法、常微分方程初值问题和边值问题的数值解法、偏微分方程的数值解法、多重网络法和积分方程数值解法......一起来看看 《现代应用数学手册》 这本书的介绍吧!

HTML 压缩/解压工具
HTML 压缩/解压工具

在线压缩/解压 HTML 代码

JSON 在线解析
JSON 在线解析

在线 JSON 格式化工具

html转js在线工具
html转js在线工具

html转js在线工具