94hwan-PHP框架基本原理

Source:94hwan 与众不同  Author:网络部
2010-03-03 11:27

    SCWS 是一个简易的分词引擎,它可以将输入的文本字符串根据设定好的选项切割后以数组形式返回每一个词汇。它为中文而编写,支持 gbk 和 utf-8 字符集,适当的修改词典后也可以支持非中文的多字节语言切词(如日文、韩文等)。除分词外,还提供一个简单的关键词汇统计功能,它内置了一个简单的算法来排序。本扩展内部直接绑绑定了 libscws 相关代码,由于雨林木风的默认环境都支持这个扩展,所以把它的文档列出来,实际应用中,我们是优先以这个分词系统为主的。

SCWS 词典存放在 library/scws 文件夹内,如果项目需要对一些词条进行调整的,可把重新编译的词典文件替换(编译方法可参考scws的安装说明)。

例子1. 使用类方法分词
<?php
$so = scws_new();
$so->set_charset('gbk');
// 这里没有调用 set_dict 和 set_rule 系统会自动试调用 ini 中指定路径下的词典和规则文件
$so->send_text("我是一個中國人,我會C++語言,我也有很多T恤衣服");
while ($tmp = $so->get_result())
{
  print_r($tmp);
}
$so->close();
?>

例子2. 使用函数提取高频词
<?php
$sh = scws_open();
scws_set_charset($sh, 'gbk');
scws_set_dict($sh, '/path/to/dict.xdb');
scws_set_rule($sh, '/path/to/rules.ini');
$text = "我是一个中国人,我会C++语言,我也有很多T恤衣服";
scws_send_text($sh, $text);
$top = scws_get_tops($sh, 5);
print_r($top);
?>

注意:
为方便使用,当 send_text 方法或 scws_send_text 函数被调用前,没有加载词典和规则集时,系统会自动在scws.default.fpath(ini配置)中查找相应的字符集词典。词典和规则文件的命名方式为 dict[.字符集].xdb 和 rules[.字符集].ini ,当字符集是 gbk 时中括号里面的部分则不需要,直接使用 dict.xdb 和 rules.ini 而不是 dict.gbk.xdb 。

此外,输入的文字,词典,规则文件这三者的字符集必须统一,如果不是默认的 gbk 字符集请调用 set_charset 或 scws_set_charset来设定,否则可能出现意外错误。

==函數列表:==

mixed scws_new(void)
说明:创建并返回一个 SimpledCWS 类操作对象。
參數:無
返回值:成功返回类操作句柄,失败返回 false

mixed scws_open(void)
說明:創建並返回一個分詞操作句柄
參數:無
返回值:成功返回 scws 操作句柄,失败返回 false

bool scws_close(resource scws_handle)
说明:关闭一个已打开的 scws 分词操作句柄
返回:始终为 true
参数:scws_handle 即之前由 scws_open 打开返回的。

bool scws_set_charset(resource scws_handle, string charset)
说明:设定分词词典、规则集、欲分文本字符串的字符集,系统缺省是 gbk 字集。
返回:始终为 true
参数:scws_handle 即之前由 scws_open 打开返回的;
         charset 是要新设定的字符集,目前只支持 utf8 和 gbk。(注:utf8不要写成utf-8)

bool scws_set_dict(resource scws_handle, string dict_path)
說明:設定分詞所用的詞典。
返回:成功返回 true 失败返回 false
参数:scws_handle 即之前由 scws_open 打开返回的;
         dict_path 是词典的路径,可以是相对路径或完全路径。(遵查安全模式下的open_basedir)

bool scws_set_rule(resource scws_handle, string rule_path)
說明:設定分詞所用的新詞識別規則集(用于人名、地名、數字時間年代等識別)。
返回:成功返回 true 失败返回 false
参数:scws_handle 即之前由 scws_open 打开返回的;
         rule_path 是规则集的路径,可以是相对路径或完全路径。(遵查安全模式下的open_basedir)

bool scws_set_ignore(resource scws_handle, bool yes)
說明:設定分詞返回結果時是否去除一些特殊的標點符號之類。
返回:始终为 true
参数:scws_handle 即之前由 scws_open 打开返回的;
         yes 设定值,如果为 true 则结果中不返回标点符号,如果为 false 则会返回,缺省为 false。

bool scws_set_multi(resource scws_handle, int mode)
說明:設定分詞返回結果時是否複式分割,如“中國人”返回“中國+人+中國人”三個詞。
返回:始终为 true
参数:scws_handle 即之前由 scws_open 打开返回的;
         mode 设定值,1~15。1|2|4|8 = short|duality|zmain|zall   

bool scws_set_duality(resource scws_handle, bool yes)
說明:設定是否將閑散文字自動以二字分詞法聚合
返回:始终为 true
参数:scws_handle 即之前由 scws_open 打开返回的;
         yes 设定值,如果为 true 则结果中多个单字会自动按二分法聚分,如果为 false 则不处理,缺省为 false。

bool scws_send_text(resource scws_handle, string text)
說明:發送設定分詞所要切割的文本
返回:成功返回 true 失败返回 false
参数:scws_handle 即之前由 scws_open 打开返回的;
         text 是文本的内容。
注1:系統底層處理方式爲對該文本增加一個引用,故不論多長的文本並不會造成內存浪費;
注2:執行本函數時,若未加載任何詞典和規則集,則會自動試圖在ini指定的缺省目錄下查找詞典和規則集。

mixed scws_get_result(resource scws_handle)
说明:根据 send_text 设定的文本内容,返回一系列切好的词汇。
返回:成功返回切好的词汇组成的数组, 若无更多词汇,返回 false。
参数:scws_handle 即之前由 scws_open 打开返回的。

注1:每次切割后本函数应该循环调用,直到返回 false 为止,因为程序每次返回的词数是不确定的。
注2:返回的词汇包含的键值有:word (string, 词本身) idf (folat, 逆文本词频) off (long, 在文本中的位置) attr(string, 词性表示)

mixed scws_get_tops(resource scws_handle [, int limit [, string attr]] )
说明:根据 send_text 设定的文本内容,返回系统计算出来的最关键词汇列表。
返回:成功返回切好的词汇组成的数组, 若无更多词汇,返回 false。
参数:scws_handle 即之前由 scws_open 打开返回的;
        limit 可选参数,返回的词的最大数量,缺省是 10;
        attr 可选参数,是一系列词性组成的字符串,各词性之间以半角的逗号隔开,
        这表示返回的词性必须在列表中,如果以~开头,则表示取反,词性必须不在列表中,
        缺省为NULL,返回全部词性,不过滤。

mixed scws_version(void)
说明:返回 scws 版本号名称信息。
返回:字符串
參數:無
 

...