设为首页 收藏本站
查看: 1399|回复: 0

[经验分享] Centos 5.3环境安装Coreseek

[复制链接]
累计签到:1 天
连续签到:1 天
发表于 2014-12-4 09:25:13 | 显示全部楼层 |阅读模式
什么是Sphinx/Coreseek

Sphinx是一个在GPLv2下分发的全文检索引擎;Coreseek是一个可供企业使用的、基于Sphinx(可独立于Sphinx原始版本运行)的中文全文检索引擎,按照GPLv2协议发行,商业使用(例如, 嵌入到其他程序中)需要联系我们以获得商业授权。

一般而言,Sphinx是一个独立的全文搜索引擎;而Coreseek是一个支持中文的全文搜索引擎,意图为其他应用提供高速、低空间占用、高结果相关度的中文全文搜索能力。Sphinx/Coreseek可以非常容易的与SQL数据库和脚本语言集成。

当前系统内置MySQL和PostgreSQL 数据库数据源的支持,也支持从管道标准输入读取入特定格式的XML数据。通过修改源代码,用户可以自行增加新的数据源(例如:其他类型的DBMS的原生支持)。在最新的版本中,用户还可以使用Python脚本作为数据源来获取任何已知世界和未知世界的数据,这极大的扩展了数据源的来源。

搜索API支持PHP、Python、Perl、Rudy和Java,并且也可以用作MySQL存储引擎。搜索API非常简单,可以在若干个小时之内移植到新的语言上。

Sphinx 是SQL PhraseIndex的缩写,但不幸的和CMU的Sphinx项目重名。

Coreseek  http://www.coreseek.cn 为Sphinx在中国地区的用户提供支持服务.   

Sphinx  http://sphinxsearch.com/               


Sphinx/Coreseek 的特性
  • 高速的建立索引(在当代CPU上,峰值性能可达到10MB/秒);

  • 高性能的搜索(在2 – 4GB 的文本数据上,平均每次检索响应时间小于0.1秒);

  • 可处理海量数据(目前已知可以处理超过100GB的文本数据, 在单一CPU的系统上可处理100 M 文档);

  • 提供了优秀的相关度算法,基于短语相似度和统计(BM25)的复合Ranking方法;

  • 支持分布式搜索;

  • 提供文档片段(摘要以及高亮)生成功能;

  • 可作为MySQL的存储引擎提供搜索服务;

  • 支持布尔、短语、词语相似度等多种检索模式;

  • 文档支持多个全文检索字段(缺省配置下,最大不超过32个);

  • 文档支持多个额外的属性信息(例如:分组信息,时间戳等);

  • 停止词查询;

  • 支持单一字节编码和UTF-8编码,以及对GBK和BIG5的完善支持;

  • 支持英语、俄语词词干化和Soundex,以便进行词形学处理;

  • 原生的MySQL支持(同时支持MyISAM 和InnoDB );

  • 原生的PostgreSQL支持;

  • 支持直接模拟为MySQL服务端运行;

  • 支持MMSeg分词引擎,用户可自定义词典;

  • Python数据源支持,得以获取任何已知世界和未知世界的数据.


目前,Sphinx/Coreseek的发布包包括如下软件:
  • indexer: 用于创建全文索引;

  • search: 一个简单的命令行(CLI) 的测试程序,用于测试全文索引;

  • searchd: 一个守护进程,其他软件可以通过这个守护进程进行全文检索;

  • sphinxapi: 一系列searchd 的客户端API 库,用于流行的Web脚本开发语言(PHP, Python, Perl, Ruby, Java).

  • spelldump: 一个简单的命令行工具,用于从 ispell 或 MySpell (OpenOffice内置绑定) 格式的字典中提取词条。当使用 wordforms 时可用这些词条对索引进行定制.

  • indextool: 工具程序,用来转储关于索引的多项调试信息。此工具是从版本Coreseek 3.1(Sphinx 0.9.9-rc2)开始加入的。

  • mmseg: 工具程序和库,Coreseek用于提供中文分词和词典处理。


安装前准备环境

yum install make gcc g++ gcc-c++ libtool make mysql-devel libxml2-devel expat-devel

官网参考地址:http://www.coreseek.cn/products/ ... _bsd_linux/RHEL5-5/

来到官网http://www.coreseek.com/下载Coreseek 3.2.14稳定版,解压进入目录。

# tar xf coreseek-3.2.14.tar.gz

# cd coreseek-3.2.14

配置语言支持中文

# export LANG="zh_CN.UTF-8"

# export LC_ALL="zh_CN.UTF-8"

# cat testpack/var/test/test.xml

wKiom1R-i4bgy4L2AAGxpagGNaw469.jpg

安装coreseek开发的mmseg,为coreseek提供中文分词功能

# cd mmseg-3.2.14/

# ./bootstrap

# ./configure --prefix=/usr/local/mmseg3

# make && make install

中文分词测试

# /usr/local/mmseg3/bin/mmseg -d /usr/local/mmseg3/etc src/t1.txt


中文/x 分/x 词/x 测试/x

中国人/x 上海市/x


Word Splite took: 0 ms.

安装coreseek

# cd csft-3.2.14/

# sh buildconf.sh

# ./configure --prefix=/usr/local/coreseek --without-python --without-unixodbc --with-mmseg --with-mmseg-includes=/usr/local/mmseg3/include/mmseg/ --with-mmseg-libs=/usr/local/mmseg3/lib/ --without-mysql

#coreseek4.x/sphinx1.x,请将--without-mysql更改为--with-mysql

# make && make install

测试是否可以正常运行

# /usr/local/coreseek/bin/indexer -c /usr/local/coreseek/etc/sphinx-min.conf.dist

wKioL1R-jGuw-AWdAAFTJpw38mI702.jpg

csft-4.0版显示:ERROR: nothing to do.

coreseek中文全文检索测试
# cd testpack/
# /usr/local/coreseek/bin/indexer -c etc/csft.conf

wKiom1R-jEfDtn-DAAEXq729j_8678.jpg

索引全部数据
# /usr/local/coreseek/bin/indexer -c etc/csft.conf -all

wKioL1R-jcrxJ2dNAAG8p9tFa-I285.jpg

索引指定数据
# /usr/local/coreseek/bin/indexer -c etc/csft.conf xml

wKiom1R-kE2BkFSPAAGH6upCW9M497.jpg

测试搜索
# /usr/local/coreseek/bin/search -c etc/csft.conf

wKiom1R-kM_gwWq9AAFuX0pLqho609.jpg

测试搜索关键词
# /usr/local/coreseek/bin/search -c etc/csft.conf -a hello欢迎来到北京清华大学

wKiom1R-kQ_z2PkyAAFde5WUkvA847.jpg

开启搜索服务
# /usr/local/coreseek/bin/searchd -c etc/csft.conf wKioL1R-kcbxxTyPAAGDtENOrVE686.jpg
# 如要已启动服务,要更新索引,请使用 /usr/local/coreseek/bin/indexer-c etc/csft.conf --all --rotate
# 如要停止搜索服务,请使用 /usr/local/coreseek/bin/searchd-c etc/csft.conf --stop

然后,请参考csft-3.2.14下api目录中的相关文件,使用PHP、Python、Ruby、Java来测试搜索服务;也可以前往< ahref="/products-install/step_by_step/">搜索服务建立三步曲,查看第三步使用PHP测试。

通过以上步骤,coreseek已经安装测试完成,可以提供正常的xml数据源索引以及提供对应的搜索服务了,下一步工作,请查看手册,准备好mysql数据信息,以及进行mysql数据源的测试,并在您的应用中调用搜索服务;mysql数据源的配置可参考testpack/etc/csft_mysql.conf文件

官方文档地址:http://www.coreseek.cn/docs/coreseek_3.2-sphinx_0.9.9.html


运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.yunweiku.com/thread-35496-1-1.html 上篇帖子: django学习之xadmin后台管理部署 下篇帖子: linux下的CPU、内存、IO、网络的压力测试
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表