solr6.2从环境部署到与mysql整合到中文分词器到solrJ的使用
solr就不多介绍了。是用于搜索功能的开源工具,很强大
一、solr环境部署
solr本身能够用jetty启动,但是还是用tomcat启动比较适合我自己。学习solr有两个星期了,到现在(2016.11.27)solr最新版已经是6.3.0了,不过没关系,基本的东西都是一样的。
1、solr官网: http://lucene.apache.org/solr/
下载后解压,是这样的目录结构:
2、solr当然可以直接按网上其他很多教程那样整合到tomcat中,但是本人更喜欢建一个新工程,这样更灵活。下面我们在eclipse中新建一个tomcat-solr的java web工程,不过这里要注意,要把这个工程的访问路径变成solr,不能是tomcat-solr,因为solr的管理页面中,solr的开发者把这个目录写死了,我们要把访问路径改成solr,也就是:http://localhost:8080/solr/index.html ,怎么改呢:
在eclipse中:
下面我们进行如下操作:
1)将solr-6.2.1\server\solr-webapp\webapp下的内容copy到我们web工程的webapp下
2)将solr-6.2.1\server\lib\ext下的jar包,copy到我们的tomcat-solr功能中
3)将solr-6.2.1\server\resources\log4j.properties文件copy到tomcat-solr功能的src中,
4)在tomcat-solr工程的webapp文件夹下,新建文件夹solrhome,将solr-6.2.1\server\solr下的文件夹以及文件copy到solrhome中,
5)修改web.xml文件,修改env-entry-value的值为solrhome的绝对位置,如:
6)启动tomcat,访问http://localhost:8080/solr/index.html
到此,solr部署完毕。
我们的tomcat-solr功能应该长得如此帅:
对了,solr支持zookeeper搭建集群配置,在这里我们先注释掉,在solrhome文件夹下的solr.xml文件中,
- <solr>
- <!-- 注解掉zookeeper搭建集群配置,采用master-slave的形式
- <solrcloud>
- <str name="host">${host:}</str>
- <int name="hostPort">${jetty.port:8983}</int>
- <str name="hostContext">${hostContext:solr}</str>
- <bool name="genericCoreNodeNames">${genericCoreNodeNames:true}</bool>
- <int name="zkClientTimeout">${zkClientTimeout:30000}</int>
- <int name="distribUpdateSoTimeout">${distribUpdateSoTimeout:600000}</int>
- <int name="distribUpdateConnTimeout">${distribUpdateConnTimeout:60000}</int>
- <str name="zkCredentialsProvider">${zkCredentialsProvider:org.apache.solr.common.cloud.DefaultZkCredentialsProvider}</str>
- <str name="zkACLProvider">${zkACLProvider:org.apache.solr.common.cloud.DefaultZkACLProvider}</str>
- </solrcloud>
- <shardHandlerFactory name="shardHandlerFactory"
- class="HttpShardHandlerFactory">
- <int name="socketTimeout">${socketTimeout:600000}</int>
- <int name="connTimeout">${connTimeout:60000}</int>
- </shardHandlerFactory>
- -->
- </solr>
二、core配置
solr的core非常重要,还有什么多core什么的,由于我也是刚刚学习,还没有搞明白,这里只是能够用最简单的,我们将在solrhome文件夹下,新建文件夹:my_solr,然后将solr-6.2.1\example\example-DIH\solr\solr下的文件以及文件夹copy到my_solr下,
访问刚才的地址:
三、整合mysql
1、首先我们在mysql中建个表作为练习,
- CREATE TABLE `solrTest` (
- `solrID` int(11) NOT NULL AUTO_INCREMENT COMMENT 'ID',
- `context` varchar(255) DEFAULT NULL COMMENT 'context',
- `updateTime` datetime DEFAULT NULL COMMENT 'updateTime',
- `sort` int(11) DEFAULT '1' COMMENT '排序',
- PRIMARY KEY (`solrID`)
- ) DEFAULT CHARSET=utf8;
2、将mysql的驱动jar包,copy到我们tomcat-solr功能中(lib文件夹下,这个们问题的吧),
3、修改my_solr文件夹下的conf文件夹下的solr-data-config.xml文件:
- <dataConfig>
- <dataSource type="JdbcDataSource"
- driver="com.mysql.jdbc.Driver"
- url="jdbc:mysql://localhost:3306/test"
- user="root"
- password="123456"/>
- <document name="solr_mysql_test">
- <entity name="solrTest"
- pk="solrID"
- query="select * from solrTest"
- deltaImportQuery="select * from solrTest where solrID = '${dih.delta.solrID}'"
- deltaQuery="select solrID from solrTest where updateTime > '${dataimporter.last_index_time}'"/>
- <field column="solrID" name="solrID"/>
- <field column="context" name="context"/>
- <field column="updateTime" name="updateTime"/>
- <field column="sort" name="sort"/>
- </document>
- </dataConfig>
这里面的内容具体什么意思,网上有很多专门介绍的文章博客,这里就不多说了
4、修改conf文件夹下的managed-schema文件,在schema标签下添加field
- <field name="solrID" type="string" required="true" indexed="true" stored="true" multiValued="false"/>
- <field name="context" type="string" indexed="true" stored="true" multiValued="false"/>
- <field name="updateTime" type="date" indexed="true" stored="true" multiValued="false"/>
- <field name="sort" type="int" indexed="true" stored="true" multiValued="false"/>
这里面name对应solr-data-config.xml中的name,要一直,否则solr就找不到字段了,
type是类型,indexed代表是否可用于检索,stored代表是否存储,multiValued代表是否有多个值,除此之外还有很多字段,读者可以移步度娘。
(另外说一下,我这里用的其实是schema.xml,而不是managed-schema文件,不过感觉都是一个样)
下面,看下我们的成就(别忘了mysql填点数据哦,否则啥也看不出来):
先刷新下solr数据:
然后查数据:
四、下面,我们看看中文分词器
solr本分提供了很多分词器(不过对中文的分词实在不能用,愤怒!!!),对了,那么什么是分词呢?比如“数据结构”这个词,没分词前,solr就按“数据结构”这个词查(有点像mysql的=),中文分词后,就按“数据”,“结构”这两个词查(有点像like),这样更符合我们的搜索习惯
有很多支持solr中文分词的jar包,比如我们用的IKAnalyzer中文分词器
我们首先导入IKAnalyzer的jar包,注意IKAnalyzer的jar包要与solr版本对应,否则会execption的,
然后在managed-schema文件的最后:
- <!-- IKAnalyzer中文分词器.如果版本与solr对应不上,会报抽象方法错误 -->
- <fieldType name="text_ik" class="solr.TextField">
- <!--索引时候的分词器-->
- <analyzer type="index" isMaxWordLength="false" class="org.wltea.analyzer.lucene.IKAnalyzer"/>
- <!--查询时候的分词器-->
- <analyzer type="query" isMaxWordLength="true" class="org.wltea.analyzer.lucene.IKAnalyzer"/>
- </fieldType>
在然后,比如我们数据库表中的context字段要进行分词,那么修改field:
- <field name="context" type="text_ik" indexed="true" stored="true" multiValued="false"/>
也就是修改type为分词器的name
这时我们在去solr查询一下,我们先填几条数据:
去看看成果:
五、solrJ是连接我们java工程和solr的工具jar包,很实用
简单的使用示例:
- public class SolrQueryTest {
- //solr 服务器地址
- public static final String solrServerUrl = "http://localhost:8080/solr";
- //solrhome下的core
- public static final String solrCroeHome = "my_solr";
- @SuppressWarnings({ "resource", "deprecation" })
- public static void main(String[] args) {
- try {
- //SolrClient client = new HttpSolrClient(solrServerUrl + "/" + solrCroeHome);
- //QueryResponse resp = client.query(new SolrQuery("*:*"));
- SolrClient client = new HttpSolrClient(solrServerUrl);
- QueryResponse resp = client.query(solrCroeHome, new SolrQuery("*:*"));
- List<TestBean> lists = resp.getBeans(TestBean.class);
- System.out.println(lists);
- } catch (SolrServerException e) {
- e.printStackTrace();
- } catch (IOException e) {
- e.printStackTrace();
- }
- }
- }
bean(注意要有solrJ的注解):
- public class TestBean {
- @Field("solrID")
- private String solrID;
- @Field("context")
- private String context;
- @Field("updateTime")
- private Date updateTime;
- public String getSolrID() {
- return solrID;
- }
- public void setSolrID(String solrID) {
- this.solrID = solrID;
- }
- public String getContext() {
- return context;
- }
- public void setContext(String context) {
- this.context = context;
- }
- public Date getUpdateTime() {
- return updateTime;
- }
- public void setUpdateTime(Date updateTime) {
- this.updateTime = updateTime;
- }
- }
solr在查询时,也有很多方法,能够设置查询的条件,比如分页、分片检索、结果的过滤条件、排序等,下面只是一个示例,我一个功能的代码片段:
- /**
- * 设置查询信息
- */
- solrQuery.setQuery(this.getQueryFields(keyWord)); //设置基本查询
- /**
- * 设置查询条件
- */
- solrQuery.setFilterQueries(this.getFielder(condition));
- /**
- * 分页
- */
- solrQuery.setStart(pInteger);
- solrQuery.setRows(systemConfigureUtil.getSolrRow());
- /**
- * 分片检索(分类检索)——
- */
- solrQuery.setFacet(systemConfigureUtil.isFacet());
- solrQuery.add("facet.field", systemConfigureUtil.getFacetStr()); //可以按多个字段分类,用逗号分隔
- /**
- * 设置过滤结果——能查询出那些字段
- */
- solrQuery.add("fl", systemConfigureUtil.getFilterFields());
- /**
- * 排序,注意是有顺序的
- */
- solrQuery.setSort(this.getSort(0)); //setSort()会覆盖之前的查询条件
- solrQuery.addSort("sort", SolrQuery.ORDER.desc); //addSort()不会覆盖之前的查询条件
到此,我学到的solr的东西也就这些了,还会继续学习的。
我搭建好的tomcat-solr功能在我的github中:https://github.com/hejiawang/tomcat-solr
solrJ的练习工程:https://github.com/hejiawang/search-web
文章来源:http://hejiawangjava.iteye.com/blog/2341372