mysql 全文搜索 技巧

MySQLReferenceManualforversion4.1.0-alpha.

--------------------------------------------------------------------------------

6.8MySQL全文搜索

到3.23.23时，MySQL开始支持全文索引和搜索。全文索引在MySQL中是一个FULLTEXT类型索引。FULLTEXT索引用于MyISAM表，可以在CREATETABLE时或之后使用ALTERTABLE或CREATEINDEX在CHAR、VARCHAR或TEXT列上创建。对于大的数据库，将数据装载到一个没有FULLTEXT索引的表中，然后再使用ALTERTABLE(或CREATEINDEX)创建索引，这将是非常快的。将数据装载到一个已经有FULLTEXT索引的表中，将是非常慢的。

全文搜索通过MATCH()函数完成。

mysql>CREATETABLEarticles(
->idINTUNSIGNEDAUTO_INCREMENTNOTNULLPRIMARYKEY,
->titleVARCHAR(200),
->bodyTEXT,
->FULLTEXT(title,body)
->);
QueryOK,0rowsaffected(0.00sec)

mysql>INSERTINTOarticlesVALUES
->(NULL,'MySQLTutorial','DBMSstandsforDataBase...'),
->(NULL,'HowToUseMySQLEfficiently','Afteryouwentthrougha...'),
->(NULL,'OptimisingMySQL','Inthistutorialwewillshow...'),
->(NULL,'1001MySQLTricks','1.Neverrunmysqldasroot.2....'),
->(NULL,'MySQLvs.YourSQL','Inthefollowingdatabasecomparison...'),
->(NULL,'MySQLSecurity','Whenconfiguredproperly,MySQL...');
QueryOK,6rowsaffected(0.00sec)
Records:6Duplicates:0Warnings:0

mysql>SELECT*FROMarticles
->WHEREMATCH(title,body)AGAINST('database');
+----+-------------------+------------------------------------------+
|id|title|body|
+----+-------------------+------------------------------------------+
|5|MySQLvs.YourSQL|Inthefollowingdatabasecomparison...|
|1|MySQLTutorial|DBMSstandsforDataBase...|
+----+-------------------+------------------------------------------+
2rowsinset(0.00sec)

函数MATCH()对照一个文本集(包含在一个FULLTEXT索引中的一个或多个列的列集)执行一个自然语言搜索一个字符串。搜索字符串做为AGAINST()的参数被给定。搜索以忽略字母大小写的方式执行。对于表中的每个记录行，MATCH()返回一个相关性值。即，在搜索字符串与记录行在MATCH()列表中指定的列的文本之间的相似性尺度。

当MATCH()被使用在一个WHERE子句中时(参看上面的例子)，返回的记录行被自动地以相关性从高到底的次序排序。相关性值是非负的浮点数字。零相关性意味着不相似。相关性的计算是基于：词在记录行中的数目、在行中唯一词的数目、在集中词的全部数目和包含一个特殊词的文档(记录行)的数目。

它也可以执行一个逻辑模式的搜索。这在下面的章节中被描述。

前面的例子是函数MATCH()使用上的一些基本说明。记录行以相似性递减的顺序返回。

下一个示例显示如何检索一个明确的相似性值。如果即没有WHERE也没有ORDERBY子句，返回行是不排序的。

mysql>SELECTid,MATCH(title,body)AGAINST('Tutorial')FROMarticles;
+----+-----------------------------------------+
|id|MATCH(title,body)AGAINST('Tutorial')|
+----+-----------------------------------------+
|1|0.64840710366884|
|2|0|
|3|0.66266459031789|
|4|0|
|5|0|
|6|0|
+----+-----------------------------------------+
6rowsinset(0.00sec)

下面的示例更复杂一点。查询返回相似性并依然以相似度递减的次序返回记录行。为了完成这个结果，你应该指定MATCH()两次。这不会引起附加的开销，因为MySQL优化器会注意到两次同样的MATCH()调用，并只调用一次全文搜索代码。

mysql>SELECTid,body,MATCH(title,body)AGAINST
->('SecurityimplicationsofrunningMySQLasroot')ASscore
->FROMarticlesWHEREMATCH(title,body)AGAINST
->('SecurityimplicationsofrunningMySQLasroot');
+----+-------------------------------------+-----------------+
|id|body|score|
+----+-------------------------------------+-----------------+
|4|1.Neverrunmysqldasroot.2....|1.5055546709332|
|6|Whenconfiguredproperly,MySQL...|1.31140957288|
+----+-------------------------------------+-----------------+
2rowsinset(0.00sec)

MySQL使用一个非常简单的剖析器来将文本分隔成词。一个“词”是由文字、数据、“'”和“_”组成的任何字符序列。任何在stopword列表上出现的，或太短的(3个字符或更少的)的“word”将被忽略。

在集和查询中的每个合适的词根据其在集与查询中的重要性衡量。这样，一个出现在多个文档中的词将有较低的权重(可能甚至有一个零权重)，因为在这个特定的集中，它有较低的语义值。否则，如果词是较少的，它将得到一个较高的权重。然后，词的权重将被结合用于计算记录行的相似性。

这样一个技术工作可很好地工作与大的集(实际上，它会小心地与之谐调)。对于非常小的表，词分类不足以充份地反应它们的语义值，有时这个模式可能产生奇怪的结果。

mysql>SELECT*FROMarticlesWHEREMATCH(title,body)AGAINST('MySQL');
Emptyset(0.00sec)

在上面的例子中，搜索词MySQL却没有得到任何结果，因为这个词在超过一半的记录行中出现。同样的，它被有效地处理为一个stopword(即，一个零语义值的词)。这是最理想的行为--一个自然语言的查询不应该从一个1GB的表中返回每个次行(secondrow)。

匹配表中一半记录行的词很少可能找到相关文档。实际上，它可能会发现许多不相关的文档。我们都知道，当我们在互联网上通过搜索引擎试图搜索某些东西时，这会经常发生。因为这个原因，在这个特殊的数据集中，这样的行被设置一个低的语义值。

到4.0.1时，MySQL也可以使用INBOOLEANMODE修饰语来执行一个逻辑全文搜索。

mysql>SELECT*FROMarticlesWHEREMATCH(title,body)
->AGAINST('+MySQL-YourSQL'INBOOLEANMODE);
+----+------------------------------+-------------------------------------+
|id|title|body|
+----+------------------------------+-------------------------------------+
|1|MySQLTutorial|DBMSstandsforDataBase...|
|2|HowToUseMySQLEfficiently|Afteryouwentthrougha...|
|3|OptimisingMySQL|Inthistutorialwewillshow...|
|4|1001MySQLTricks|1.Neverrunmysqldasroot.2....|
|6|MySQLSecurity|Whenconfiguredproperly,MySQL...|
+----+------------------------------+-------------------------------------+

这个查询返回所有包含词MySQL的记录行(注意：50%的阈值没有使用)，但是它没有包含词YourSQL。注意，一个逻辑模式的搜索不会自动地以相似值的降序排序记录行。你可以从上面的结果出看得出来，最高的相似值(包含MySQL两次的那个)最列在最后，而不是第一位。一个逻辑全文搜索即使在没有一个FULLTEXT索引的情况下也可以工作，然而它慢些。

逻辑全文搜索支持下面的操作符：

+
一个领头的加号表示，该词必须出现在每个返回的记录行中。

-
一个领头的减号表示，该词必须不出现在每个返回的记录行中。

缺省的(当既没有加号也没有负号被指定时)词是随意的，但是包含它的记录行将被排列地更高一点。这个模仿没有INBOOLEANMODE修饰词的MATCH()...AGAINST()的行为。

<>
这两个操作符用于改变一个词的相似性值的基值。<操作符减少基值，>操作符则增加它。参看下面的示例。

()
圆括号用于对子表达式中的词分组。

~
一个领头的否定号的作用象一个否定操作符，引起行相似性的词的基值为负的。它对标记一个噪声词很有用。一个包含这样的词的记录将被排列得低一点，但是不会被完全的排除，因为这样可以使用-操作符。

*
一个星号是截断操作符。不想其它的操作符，它应该被追加到一个词后，不加在前面。

"
短语，被包围在双引号"中，只匹配包含这个短语(字面上的，就好像被键入的)的记录行。
这里是一些示例：

applebanana
找至少包含上面词中的一个的记录行
+apple+juice
...两个词均在被包含
+applemacintosh
...包含词“apple”，但是如果同时包含“macintosh”，它的排列将更高一些
+apple-macintosh
...包含“apple”但不包含“macintosh”
+apple+(>pie...包含“apple”和“pie”，或者包含的是“apple”和“strudel”(以任何次序)，但是“applepie”排列得比“applestrudel”要高一点
apple*
...包含“apple”，“apples”，“applesauce”和“applet”
"somewords"
...可以包含“somewordsofwisdom”，但不是“somenoisewords”
6.8.1全文的限制
MATCH()函数的所有参数必须是从来自于同一张表的列，同时必须是同一个FULLTEXT索引中的一部分，除非MATCH()是INBOOLEANMODE的。

MATCH()列列表必须确切地匹配表的某一FULLTEXT索引中定义的列列表，除非MATCH()是INBOOLEANMODE的。

AGAINST()的参数必须是一个常量字符串。
6.8.2微调MySQL全文搜索
不幸地，全文搜索仍然只有很少的用户可调参数，虽然增加一些在TODO上排列很高。如果你有一个MySQL源码发行(查看章节2.3安装一个MySQL源码发行)，你可以发挥对全文搜索的更多控制。

注意，全文搜索为最佳的搜索效果，被仔细地调整了。修改默认值的行为，在大多数情况下，只会使搜索结果更糟。不要修改MySQL的源代码，除非你知道你在做什么！

被索引的词的最小长度由MySQL变量ft_min_word_len指定。查看章节4.5.6.4SHOWVARIABLES。将它改为你所希望的值，并重建你的FULLTEXT索引。(这个变量只从MySQL4.0开始被支持)

stopword列表可以从ft_stopword_file变量指定的文件中读龋查看章节4.5.6.4SHOWVARIABLES。在修改了stopword列表后，重建你的FULLTEXT索引。(这个变量只从MySQL4.0.10开始被支持)

50%阈值选择由所选择的特殊的衡量模式确定。为了禁止它，修改`myisam/ftdefs.h'文件中下面的一行：
#defineGWS_IN_USEGWS_PROB

改为：
#defineGWS_IN_USEGWS_FREQ

然后重新编译MySQL。在这种情况下，不需要重建索引。注意：使用了这个，将严重地减少MySQL为MATCH()提供足够的相似性值的能力。如果你确实需要搜索这样的公共词，最好使用INBOOLEANMODE的搜索代替，它不遵守50%的阈值。

有时，搜索引擎维护员希望更改使用于逻辑全文搜索的操作符。这些由变量ft_boolean_syntax定义。查看章节4.5.6.4SHOWVARIABLES。然而，这个变量是只读的，它的值在`myisam/ft_static.c'中被设置。
对于这些更改，要求你重建你的FULLTEXT索引，对于一个MyISAM表，最容易的重建索引文件的方式如下面的语句：

mysql>REPAIRTABLEtbl_nameQUICK;

6.8.3全文搜索TODO
使所有对FULLTEXT索引的操作更快
邻近(Proximity)操作符
对"always-indexwords"的支持。他们可以是用户希望视为一个词处理的任意字符串，例如"C++"、"AS/400"、"TCP/IP"，等等
支持在MERGE表中的全文搜索
对多字节字符的支持
依照数据的语言建立stopword列表
Stemming(当然，依赖于数据的语言)
Genericuser-suppliableUDFpreparser.
使模式更加灵活(通过为CREATE/ALTERTABLE中的FULLTEXT增加某些可调整参数)