爬取百度百科中文页面,抽取三元组信息,构建中文知识图谱
Go to file
2018-09-07 19:48:17 +08:00
ie update 2018-09-07 19:45:54 +08:00
kg update 2018-09-07 19:45:54 +08:00
spider update 2018-09-07 19:45:54 +08:00
.gitignore init 2018-01-15 15:56:26 +08:00
README.md Update README.md 2018-09-07 19:48:17 +08:00

Tips

  • 如果是项目问题请提issue。
  • 如果涉及到不方便公开的,请发邮件。

update 0907

  • 1.修改网页保存路径为相对路径
  • 2.删除多余的文件,只保留代码文件

开源web知识图谱项目

环境

  • python 3.6
  • requests:网络请求
  • re:url正则匹配
  • bs4:网页解析
  • pickle:进度保存
  • threading:多线程
  • neo4j:知识图谱图数据库,安装可以参考链接
  • pip install neo4j-driverneo4j python驱动

代码目錄

  • spider/ 抓取原始网页
  • ie/ 从网页中解析正文,从正文中抽取结构化信息
  • kg/ 抽取三元組存入neo4j数据库

代码执行顺序:

python spider/spider_main.py
python ie/extract-para.py
python ie/extract-table.py
python kg/build-triple-from-table.py
python kg/insert_to_neo4j.py

知识图谱效果图