当前位置:   article > 正文

(一)基于知识图谱的医疗问答系统(实例+代码理解)保姆级教程_基于医疗知识图谱的问答系统

基于医疗知识图谱的问答系统

本篇文章内容来源于刘焕勇老师在Github上的开源项目https://github.com/liuhuanyong/QASystemOnMedicalKG

如果打不开或者是想要数据集、源码等文件,或者是帮忙调试程序请评论留言~

项目介绍详细方案,架构等问题不再赘诉,相关链接里已经介绍很详细。这里主要着重于运行程序和代码理解(因为代码很详细,包括运行过程、结果,整篇文章可能较长)。

我用的软件相关版本:

pycharm 2021.3

neo4j 4.2.19 (community)

python 3.7

py2neo 2021.2.3

先放部分效果图:左边是图谱的一部分,右边是实体的一些属性,包括疾病原因、科室、治疗时间、治疗药物等。

首先创建一个 MedicalGraph 类,定义一个连接数据库的方法。这里需要注意的是连接 Graph 语法的问题,旧版本是需要 username="xxx", password="xxx"。

  1. def __init__(self):
  2. cur_dir = '/'.join(os.path.abspath(__file__).split('/')[:-1])
  3. self.data_path = os.path.join(cur_dir, 'data/medical2.json')
  4. self.g = Graph("http://localhost:7474", auth=("neo4j", "***"))
  5. self.g.delete_all()

数据集的话是之前刘老师已经在网上爬虫好的json文件,长这个样子。

 为了看官们舒适体验感和有助于下面代码理解,我还是把实体类型拿过来贴一下,单纯看json文件有些乱。。

实体关系类型:

知识图谱属性类型:

好了,我们回到代码,这里有一个主程序,将MedicalGraph()类实例化,然后创建结点和关系,我们点进去看看程序的执行过程。

 首先,创建知识图谱实体结点类型,这里定义了如下结点和关系,对应之前的表格很好理解。

Drugs, Foods, Checks, Departments, Producers, Symptoms, Diseases, disease_infos,rels_check, rels_recommandeat, rels_noteat, rels_doeat, rels_department, rels_commonddrug, rels_drug_producer, rels_recommanddrug,rels_symptom, rels_acompany, rels_category

然后我们进去create_diseases_nodes创建一些疾病的信息。

  1. def create_graphnodes(self):
  2. Drugs, Foods, Checks, Departments, Producers, Symptoms, Diseases, disease_infos,rels_check, rels_recommandeat, rels_noteat, rels_doeat, rels_department, rels_commonddrug, rels_drug_producer, rels_recommanddrug,rels_symptom, rels_acompany, rels_category = self.read_nodes()
  3. self.create_diseases_nodes(disease_infos)
  4. self.create_node('Drug', Drugs)
  5. print(len(Drugs))
  6. self.create_node('Food', Foods)
  7. print(len(Foods))
  8. self.create_node('Check', Checks)
  9. print(len(Checks))
  10. self.create_node('Department', Departments)
  11. print(len(Departments))
  12. self.create_node('Producer', Producers)
  13. print(len(Producers))
  14. self.create_node('Symptom', Symptoms)
  15. return

 我们注意到第一行代码最右边等于 self.read_nodes() ,这其实就是在读取数据。这个时候跳转到我们定义的 read_nodes方法。

注意我们还是在create_graphnodes方法中,只不过跳转到了其他方法之中,这段代码有点长,思路不要乱!

  1. def read_nodes(self):
  2. # 共7类节点
  3. drugs = [] # 药品
  4. foods = [] # 食物
  5. checks = [] # 检查
  6. departments = [] #科室
  7. producers = [] #药品大类
  8. diseases = [] #疾病
  9. symptoms = []#症状
  10. disease_infos = []#疾病信息
  11. # 构建节点实体关系
  12. rels_department = [] # 科室-科室关系
  13. rels_noteat = [] # 疾病-忌吃食物关系
  14. rels_doeat = [] # 疾病-宜吃食物关系
  15. rels_recommandeat = [] # 疾病-推荐吃食物关系
  16. rels_commonddrug = [] # 疾病-通用药品关系
  17. rels_recommanddrug = [] # 疾病-热门药品关系
  18. rels_check = [] # 疾病-检查关系
  19. rels_drug_producer = [] # 厂商-药物关系
  20. rels_symptom = [] #疾病症状关系
  21. rels_acompany = [] # 疾病并发关系
  22. rels_category = [] # 疾病与科室之间的关系
  23. count = 0
  24. for data in open(self.data_path):
  25. disease_dict = {}
  26. count += 1
  27. print(count)
  28. data_json = json.loads(data)
  29. disease = data_json['name']
  30. disease_dict['name'] = disease
  31. diseases.append(disease)
  32. disease_dict['desc'] = ''
  33. disease_dict['prevent'] = ''
  34. disease_dict['cause'] = ''
  35. disease_dict['easy_get'] = ''
  36. disease_dict['cure_department'] = ''
  37. disease_dict['cure_way'] = ''
  38. disease_dict['cure_lasttime'] = ''
  39. disease_dict['symptom'] = ''
  40. disease_dict['cured_prob'] = ''
  41. if 'symptom' in data_json:
  42. symptoms += data_json['symptom']
  43. for symptom in data_json['symptom']:
  44. rels_symptom.append([disease, symptom])
  45. if 'acompany' in data_json:
  46. for acompany in data_json['acompany']:
  47. rels_acompany.append([disease, acompany])
  48. if 'desc' in data_json:
  49. disease_dict['desc'] = data_json['desc']
  50. if 'prevent' in data_json:
  51. disease_dict['prevent'] = data_json['prevent']
  52. if 'cause' in data_json:
  53. disease_dict['cause'] = data_json['cause']
  54. if 'get_prob' in data_json:
  55. disease_dict['get_prob'] = data_json['get_prob']
  56. if 'easy_get' in data_json:
  57. disease_dict['easy_get'] = data_json['easy_get']
  58. if 'cure_department' in data_json:
  59. cure_department = data_json['cure_department']
  60. if len(cure_department) == 1:
  61. rels_category.append([disease, cure_department[0]])
  62. if len(cure_department) == 2:
  63. big = cure_department[0]
  64. small = cure_department[1]
  65. rels_department.append([small, big])
  66. rels_category.append([disease, small])
  67. disease_dict['cure_department'] = cure_department
  68. departments += cure_department
  69. if 'cure_way' in data_json:
  70. disease_dict['cure_way'] = data_json['cure_way']
  71. if 'cure_lasttime' in data_json:
  72. disease_dict['cure_lasttime'] = data_json['cure_lasttime']
  73. if 'cured_prob' in data_json:
  74. disease_dict['cured_prob'] = data_json['cured_prob']
  75. if 'common_drug' in data_json:
  76. common_drug = data_json['common_drug']
  77. for drug in common_drug:
  78. rels_commonddrug.append([disease, drug])
  79. drugs += common_drug
  80. if 'recommand_drug' in data_json:
  81. recommand_drug = data_json['recommand_drug']
  82. drugs += recommand_drug
  83. for drug in recommand_drug:
  84. rels_recommanddrug.append([disease, drug])
  85. if 'not_eat' in data_json:
  86. not_eat = data_json['not_eat']
  87. for _not in not_eat:
  88. rels_noteat.append([disease, _not])
  89. foods += not_eat
  90. do_eat = data_json['do_eat']
  91. for _do in do_eat:
  92. rels_doeat.append([disease, _do])
  93. foods += do_eat
  94. recommand_eat = data_json['recommand_eat']
  95. for _recommand in recommand_eat:
  96. rels_recommandeat.append([disease, _recommand])
  97. foods += recommand_eat
  98. if 'check' in data_json:
  99. check = data_json['check']
  100. for _check in check:
  101. rels_check.append([disease, _check])
  102. checks += check
  103. if 'drug_detail' in data_json:
  104. drug_detail = data_json['drug_detail']
  105. producer = [i.split('(')[0] for i in drug_detail]
  106. rels_drug_producer += [[i.split('(')[0], i.split('(')[-1].replace(')', '')] for i in drug_detail]
  107. producers += producer
  108. disease_infos.append(disease_dict)
  109. return set(drugs), set(foods), set(checks), set(departments), set(producers), set(symptoms), set(diseases), disease_infos,\
  110. rels_check, rels_recommandeat, rels_noteat, rels_doeat, rels_department, rels_commonddrug, rels_drug_producer, rels_recommanddrug,\
  111. rels_symptom, rels_acompany, rels_category

 进行读取文件操作(debug一下,看看代码每一步都在做些什么)

我们能够看到我们创建这些 list 成功,现在里面并没有值,下一步应该执行取数据操作,在我们的data里取第一行数据,第一行数据病症的name是肺泡蛋白质沉积症。 

 结合代码,我们看到已经读取数据的时候已经把每一个对应的信息放到了list里。如果 sympton 在 data_json中(data_json就是当前行数据),然后开始循环这个列表取数据。比如说,当前是“肺泡蛋白质沉积症”,它的症状有五个分别是['紫绀','胸痛','呼吸困难','乏力','毓卓'],我们进入for循环取数据,添加到关系之中。程序继续向下运行,同样的道理,判断并发症是否在data_json中,以及病症描述、预防、原因等等。

如果 sympton 在 data_json中(data_json就是当前行数据),然后开始循环这个列表取数据。比如说,当前是“肺泡蛋白质沉积症”,它的症状有五个分别是['紫绀','胸痛','呼吸困难','乏力','毓卓'],(这里数据不太好,可能因为数据是爬取的,症状中还出现了人名)我们进入for循环取数据,添加到关系之中。程序继续向下运行,同样的道理,判断并发症是否在data_json中,以及病症描述、预防、原因等等。 

需要注意的是,我们的科室之间也存在关系,比如 ['内科','呼吸内科'],这时候我们取数据要判断列表的长度,如果长度为1说明只有一个数据,如果长度为2,就要分大小科室。还有drug_details的形式和其他的有所不同,包括了药品名和生产厂商,所以需要注意一下提取方式。然后继续for循环,取第2条数据,直到所有数据都取完。

所有的数据读取完之后,第一条命令执行完毕,我们再回到最初的create_graphnodes方法,执行第二条语句。

执行 create_diseases_nodes方法。该方法是创建知识图谱中心疾病的结点,给结点创建一些它的信息,如右边的信息:

  1. def create_diseases_nodes(self, disease_infos):
  2. count = 0
  3. for disease_dict in disease_infos:
  4. node = Node("Disease", name=disease_dict['name'], desc=disease_dict['desc'],
  5. prevent=disease_dict['prevent'] ,cause=disease_dict['cause'],
  6. easy_get=disease_dict['easy_get'],cure_lasttime=disease_dict['cure_lasttime'],
  7. cure_department=disease_dict['cure_department']
  8. ,cure_way=disease_dict['cure_way'] , cured_prob=disease_dict['cured_prob'])
  9. self.g.create(node)
  10. count += 1
  11. print(count)
  12. return

这里的disease_infos 是我们之前就定义好的list, 在读取数据操作的时候已经执行了disease_infos.append(disease_dict) 将数据存放进去。所以我们遍历创建结点就可以了。

 然后依次创建其他结点,也就是药品的结点、食物的结点、检查、科室等等其他相关信息的结点。 

  1. def create_node(self, label, nodes):
  2. count = 0
  3. for node_name in nodes:
  4. node = Node(label, name=node_name)
  5. self.g.create(node)
  6. count += 1
  7. print(count, len(nodes))
  8. return

所有结点建立完成之后,到这里我们的创建知识图谱实体结点方法结束,也就是handler.create_graphnodes()执行结束,开始执行 handler.create_graphrels()。

  1. def create_graphrels(self):
  2. Drugs, Foods, Checks, Departments, Producers, Symptoms, Diseases, disease_infos, rels_check, rels_recommandeat, rels_noteat, rels_doeat, rels_department, rels_commonddrug, rels_drug_producer, rels_recommanddrug,rels_symptom, rels_acompany, rels_category = self.read_nodes()
  3. self.create_relationship('Disease', 'Food', rels_recommandeat, 'recommand_eat', '推荐食谱')
  4. self.create_relationship('Disease', 'Food', rels_noteat, 'no_eat', '忌吃')
  5. self.create_relationship('Disease', 'Food', rels_doeat, 'do_eat', '宜吃')
  6. self.create_relationship('Department', 'Department', rels_department, 'belongs_to', '属于')
  7. self.create_relationship('Disease', 'Drug', rels_commonddrug, 'common_drug', '常用药品')
  8. self.create_relationship('Producer', 'Drug', rels_drug_producer, 'drugs_of', '生产药品')
  9. self.create_relationship('Disease', 'Drug', rels_recommanddrug, 'recommand_drug', '好评药品')
  10. self.create_relationship('Disease', 'Check', rels_check, 'need_check', '诊断检查')
  11. self.create_relationship('Disease', 'Symptom', rels_symptom, 'has_symptom', '症状')
  12. self.create_relationship('Disease', 'Disease', rels_acompany, 'acompany_with', '并发症')
  13. self.create_relationship('Disease', 'Department', rels_category, 'belongs_to', '所属科室')

同样的,我们还需要读一遍数据取其中结点之间的关系,从第二条命令开始执行create_relationship方法,创建实体关系边。

create_relationship代码如下:

  1. def create_relationship(self, start_node, end_node, edges, rel_type, rel_name):
  2. count = 0
  3. # 去重处理
  4. set_edges = []
  5. for edge in edges:
  6. set_edges.append('###'.join(edge))
  7. all = len(set(set_edges))
  8. for edge in set(set_edges):
  9. edge = edge.split('###')
  10. p = edge[0]
  11. q = edge[1]
  12. query = "match(p:%s),(q:%s) where p.name='%s'and q.name='%s' create (p)-[rel:%s{name:'%s'}]->(q)" % (
  13. start_node, end_node, p, q, rel_type, rel_name)
  14. try:
  15. self.g.run(query)
  16. count += 1
  17. print(rel_type, count, all)
  18. except Exception as e:
  19. print(e)
  20. return

 依次建立每一个实体的关系边,到这我们的图谱就建立起来了!

以上内容是我自己的见解,难免存在错误和不足,欢迎探讨!!再次感谢刘老师的开源项目。

 

 

 

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/不正经/article/detail/343866
推荐阅读
相关标签
  

闽ICP备14008679号