步骤:
读取三篇文档1.txt,2.txt,3.txt,里边的内容分别为“this is php”,“this is html html”,“this is java”
分词,并统计词频tf
计算文档频率df
计算每篇文档的特征向量
计算搜索词与文档的夹角余弦值
<?php
$_txts = array('1.txt','2.txt','3.txt');
$_len = count($_txts);
for ($i = 0;$i < $_len;$i++){
$_contents[] = file_get_contents($_txts[$i]); //读取内容
}
for ($i = 0;$i < $_len;$i++){
//分词
$_words[] = explode(' ',trim($_contents[$i]));
foreach ($_words[$i] as $_key=>$_value){
$_value = trim($_value);
$_value = preg_replace('/[.|,|(|)|-|;]/','',$_value);
$_words[$i][$_key]=strtolower($_value);
}
//统计文档所有词的长度,一般计算tf需要除以这个值,为了简便,本次试验省去这步
//$_words_count[]=count($_words[$i]);
//词频tf
$_tf[] = array_count_values($_words[$i]);
//去重
$_words[$i]= array_unique($_words[$i]);
}
//合并
$_words_com = array_merge($_words[0],$_words[1],$_words[2]);
//文档频率
$_df = array_count_values($_words_com);
//特征向量
for ($i = 0;$i < $_len;$i++){
//初始化,与文档频率的维度相同
$_vsm[$i] = $_df;
//把每个维度的值设置为0
foreach($_vsm[$i] as $_key=>$_value){
$_vsm[$i][$_key] = 0;
}
for ($j=0;$j<count($_words[$i]);$j++){
if (in_array($_words[$i][$j],$_words_com)){
$_vsm[$i][($_words[$i][$j])] = ($_tf[$i][($_words[$i][$j])])*(log($_len/$_df[($_words[$i][$j])]));
}
}
}
for($i = 0;$i < count($_vsm); $i++){
echo '第'.($i+1).'篇文档的特征向量: ('. implode(",",$_vsm[$i]).')<br/>';
}
//测试
$_query = 'java';
$_vsm_que = $_df;
foreach($_vsm_que as $_key=>$_value){
$_vsm_que[$_key] = 0;
}
if (in_array($_query,$_vsm_que)){
$_vsm_que[$_query] = 1;
}
for ($i = 0; $i < count($_vsm); $i++){
foreach($_vsm_que as $_key=>$_value){
$_sim[$i] += ($_vsm[$i][$_key]) * ($_vsm_que[$_key]);
$_w1 += pow($_vsm_que[$_key],2);
$_w2 += pow($_vsm[$i][$_key],2);
}
//求夹角余弦值,相似度计算
$_cos[$i] = $_sim[$i]/(sqrt($_w1)*sqrt($_w2));
echo '<br/>';
echo '第'.($i+1).'篇文档的相似度:'.$_cos[$i];
}
arsort($_cos);
foreach($_cos as $_key=>$_value){
echo '<br/><br/>';
echo '最符合的结果为第'.($_key+1).'篇文档';
break;
}
?>
在浏览器运行的结果:
第1篇文档的特征向量: (0,0,1.09861228867,0,0)
第2篇文档的特征向量: (0,0,0,2.19722457734,0)
第3篇文档的特征向量: (0,0,0,0,1.09861228867)
第1篇文档的相似度:0
第2篇文档的相似度:0
第3篇文档的相似度:0.235702260396
最符合的结果为第3篇文档