zoukankan      html  css  js  c++  java
  • 自己动手写搜索引擎

       实现了一个搜索引擎,能够检索csdn站点的全部博客文章,当然。最新的文章是没有的。

       先说下项目思路吧。 整个项目分为6个子程序:

           爬虫1:爬取全部csdn站点的网页,并将爬到的博客文章url存入数据库。(python)

           爬虫2:从数据库中取文章url,并爬取文章内容到数据库。(python)

          分词程序:利用friso分词库,将全部文章内容切分成词语。(c/c++)

          建立倒排索引程序:处理全部分词程序产生的结果文件,建立倒排索引。(c/c++)

          搜索程序:将输入句子切分成关键词,并依据关键词和倒排索引文件计算出相关文章的TF-IDF(词频-逆文件频率),最后依据TF-IDF对搜索结果进行排序。(c/c++)

          搜索站点:类似百度等搜索引擎,应用的入口。输入搜索的内容。输出搜索的结果。(java)


        程序比較复杂,又用到了不同的语言。所以分成了这么多子程序。

        以下是终于的执行效果,看起来还不错

        主页(百度即视感)


     搜索结果:





        界面比較简单。只是确实能够搜索了,点击蓝色字就会打开博文原地址。



        整个项目做了非常多天,做的也非常非常辛苦,只是做出来后还是相当有成就感的。感兴趣的能够试试。



  • 相关阅读:
    MQTT:前端js客户端库MQTT.js
    MQTT:java客户端库Paho
    EMQ X:认证
    EMQ X:初体验
    MQTT协议
    连接Mysql时报javax.net.ssl.SSLHandshakeException No appropriate protocol (protocol is disabled or cipher suites are inappropriate)错误
    微星11代gp76 3070解锁140w功率
    Jenkins:使用ssh方式拉取gitlab代码
    juc:AQS
    juc:LockSupport
  • 原文地址:https://www.cnblogs.com/cynchanpin/p/7082517.html
Copyright © 2011-2022 走看看