Fork me on GitHub

究竟什么是图数据库,它有哪些应用场景?

随着社交、电商、金融、零售、物联网等行业的快速发展,现实社会织起了了一张庞大而复杂的关系网,传统数据库很难处理关系运算。大数据行业需要处理的数据之间的关系随数据量呈几何级数增长,亟需一种支持海量复杂数据关系运算的数据库,图数据库应运而生。

世界上很多著名的公司都在使用图数据库。比如:

  • 社交领域:Facebook, Twitter,Linkedin用它来管理社交关系,实现好友推荐
  • 零售领域:eBay,沃尔玛使用它实现商品实时推荐,给买家更好的购物体验
  • 金融领域:摩根大通,花旗和瑞银等银行在用图数据库做风控处理
  • 汽车制造领域:沃尔沃,戴姆勒和丰田等顶级汽车制造商依靠图数据库推动创新制造解决方案
  • 电信领域:Verizon, Orange和AT&T 等电信公司依靠图数据库来管理网络,控制访问并支持客户360
  • 酒店领域:万豪和雅高酒店等顶级酒店公司依使用图数据库来管理复杂且快速变化的库存

既然图数据库应用这么广泛,越来越多的企业和开发者开始使用它,那它究竟什么过人之处呢,下面我们来揭开它的神秘面纱。

Why Graph DB?

学过数据结构这么课程的同学脑海中应该或多或少有 的概念。

什么是图?

图由两个元素组成:节点 Vertices关系(边) Edg

每个节点代表一个实体(人,地,事物,类别或其他数据),每个关系代表两个节点的关联方式。这种通用结构可以对各种场景进行建模 - 从道路系统到设备网络,到人口的病史或由关系定义的任何其他事物。

什么是图数据库?

图数据库(Graph database)并非指存储图片的数据库,而是以 这种数据结构存储和查询数据。

图形数据库是一种在线数据库管理系统,具有处理图形数据模型的创建,读取,更新和删除(CRUD)操作。

与其他数据库不同,关系在图数据库中占首要地位。这意味着应用程序不必使用外键或带外处理(如MapReduce)来推断数据连接。

与关系数据库或其他NoSQL数据库相比,图数据库的数据模型也更加简单,更具表现力。

图形数据库是为与事务(OLTP)系统一起使用而构建的,并且在设计时考虑了事务完整性和操作可用性。

根据存储和处理模型不同,市面上图数据库也有一些区分。

比如:
Neo4J就是属于原生图数据库,它使用的后端存储是专门为Neo4J这种图数据库定制和优化的,理论上说能更有利于发挥图数据库的性能。

JanusGraph不是原生图数据库,而将数据存储在其他系统上,比如Hbase

① 图存储

一些图数据库使用 原生图存储,这类存储是经过优化的,并且是专门为了存储和管理图而设计的。并不是所有图数据库都是使用原生图存储,也有一些图数据库将图数据序列化,然后保存到关系型数据库或者面向对象数据库,或其他通用数据存储中。

② 图处理引擎

原生图处理(也称为 无索引邻接)是处理图数据的最有效方法,因为连接的节点在数据库中物理地指向彼此。非本机图处理使用其他方法来处理CRUD操作。

数据库的对比

1. 与NoSQL数据库对比

NoSQL数据库大致可以分为四类:

  • 键值(key/value)数据库
  • 列存储数据库
  • 文档型数据库
  • 图数据库

NoSQL数据库

分类 数据模型 优势 劣势 举例
键值数据库 哈希表 查找速度快 数据无结构化,通常只被当作字符串或者二进制数据 Redis
列存储数据库 列式数据存储 查找速度快;支持分布横向扩展;数据压缩率高 功能相对受限 HBase
文档型数据库 键值对扩展 数据结构要求不严格;表结构可变;不需要预先定义表结构 查询性能不高,缺乏统一的查询语法 MongoDB
图数据库 节点和关系组成的图 利用图结构相关算法(最短路径、节点度关系查找等) 可能需要对整个图做计算,不利于图数据分布存储 Neo4j、JanusGraph

2.与关系型数据库对比

与关系型数据库和 NoSQL 数据库相比,定义良好的图数据库都有着明显优势。具体如下:

更好、更快速的查询和分析

无论数据大小,图数据库均可出色查询相关数据。图模型提供了内置的索引数据结构,它无需针对给定查询而 加载或接触无关数据。图模式的高效率使其成为出色的解决方案,能够更好更快地进行实时大数据分析查询。这与 NoSQL 数据库(如 MongoDB、HBase/HDFS (Hadoop) 和 Cassandra)相反,NoSQL 数据库的架构针对数据湖、 顺序扫描和新数据附加(不随机查找)而构建。在此类系统中,每次查询都会涉及大部分的数据文件,关系型数据 库则更加糟糕,处理全量数据很慢,并且需要给表建立连接才能呈现表间的关系。

更简化、更自然的数据建模

任何学习过关系型数据库建模的人都了解,满足数据库标准化和参照完整性需要遵循严格规则。某些 NoSQL 架构走向了另一极端,将所有类型的数据放在一个大型表中。而在图数据库中,您可以定义所需的任意点类型,并 定义任意边类型来表示点之间的关系。图模型则是按需定义,没有冗余的标准化和浪费。

由点及面地挖掘知识体系

知识图当然也是图。知识图是以 < 主语 >< 谓语 >< 宾语 >(如 < 有 >< 船 >)的形式表示的各个事实的集合。 以 < 主语 > 和 < 宾语 > 为点,< 谓语 > 为点之间的边,这构成了图。知识图的实际功能是查看整体:遵循一系列边、 分析邻域或分析整个图。这样,您可以推断或推理出新的关系。

面向对象的思维

在图中,每个点和边都是自包含对象实例。在基于模式的图数据库中,用户定义点类型和边类型,就像对象类一 样。此外,将点关联至其他点的边有点类似于对象方法,因为边说明点可以“做”什么。要处理图中的数据,需要 “遍历”边,在概念上是指从一个点遍历到相邻点,保持数据的完整性。比较而言,在关系型数据库中,要关联两个记录, 必须将它们相连并创建新的数据记录类型。

更强大的问题解决能力

图数据库能够解决对于关系查询不切实际和切合实际的问题。例如迭代算法(如 PageRank、梯度下降)以及 其他数据挖掘和机器学习算法。某些图查询语言是图灵完备的,这意味着您可以使用它编写任何算法。不过在市场 中有许多表达能力有限的查询语言。

迅速的实时扩展

如上所述,图数据库提供更出色的建模功能,从而能更好地为互联数据提供问题解决能力。但图数据库一直以 来有一项劣势,那就是可扩展性不佳 :以往的图数据库无法加载或存储超大数据集、无法实时处理查询,并且 / 或 者无法遍历查询中两个以上的连续关联(两步以上)。

不过,现在有了新一代图数据库。基于原生并行图架构,此第三代图数据库拥有出色的速度和可扩展性,可提 供以下优势 :

并发查询和实时数据更新

许多以前的图系统无法实时获取新数据,因为它们构建在以牺牲写入性能来换取良好读取性能的 NoSQL 数据 存储之上。但许多应用都需要实时更新,例如欺诈检测、个性化实时推荐以及任何交易或流数据应用。原生并行图 可实时处理读取和写入。并行通常与并发控制相结合,以便为读取查询和图更新提供很高的每秒查询量。

深度关联分析

原生并行图设计提供的最重要优势之一就是能够在超大图上实时处理遍历多步(10 步以上)的查询。原生图存储 (加快每次数据访问速度)和并行处理(同时处理多个操作)相结合,可将许多用例从不可能变为可能。

动态模式更改

原则上,图模型允许您通过定义新的点类型和边类型来描述新的数据类型和新的关系类型。或者您可能需要添 加或减少属性。您可以关联多个数据集,只需加载数据集并添加一些新边即可关联。具体难易程度根据实际情况有 所不同。原生并行图是彻彻底底的图,在设计时考虑了图模式发展,因此可动态处理模式更改,即在图处于使用状 态时进行处理。

简单的多维度数据表示

假设您想要向实体添加地理位置属性,或者想要记录时间序列数据。您当然可以使用关系型数据库来完成。但 通过图数据库,您可以选择将位置和时间视为点类型和属性。或者使用带有权重的边来明确关联在空间或时间上彼 此接近的实体。可以创建一系列边以表示因果变化。与关系模型不同,无需创建多维数据集来表示多个维度。每个 新点类型和边类型均表示潜在的新维度 ;实际边表示实际关系。让多维度表现关系成为无限可能。

高级聚合及分析

除了传统的按组划分聚合之外,原生并行图数据库还可以执行更复杂的聚合,这些聚合在关系型数据库中是不 可想象或不切实际的。由于采用表模型,关系型数据库上的聚合查询受到数据分组方式的极大限制。与此相反,图 的多维度性质和新型图数据库的并行处理功能可让用户高效地分割、切分、汇总、转换甚至更新数据,而无需预处 理数据或使数据进入强模式。

增强的机器学习和人工智能

我们已经说过,图可以用做知识图,使人能进一步推理间接事实和知识。此外,任何图都是优化机器学习的强 大武器。首先,对于无监督学习,图模型可出色检测集群和异常,因为您只需关注关联。监督学习始终需要更多、 更好的训练数据,而图能够提供先前被忽视的特性,是出色的提供源。例如,实体出度或两实体之间的最短路径等 简单特性可提供缺失部分以提高预测准确性。如果机器学习 / 人工智能应用需要实时决策,我们需要快速的图数据 库。图数据库成功用作实时人工智能数据基础架构的关键在于 :

  • 支持在最新数据流入时进行实时更新
  • 表达能力高且用户友好的声明性查询语言为数据科学家提供完全的数据控制能力
  • 支持实时(亚秒)深度关联遍历(> 3 步),就像人脑神经元通过神经网络发送信息一样

横向扩展和纵向扩展以管理大型图

原生图数据库具有诸多优势,它可管理传统关系型数据库无法处理的大数据。不过,与替代旧技术的任何新技 术一样,图数据库的应用仍存在障碍。这包括图数据库查询语言的非标准化。有一些不成熟的产品导致性能和实用 性低于标准,减慢了图模型的应用速度。

关系型数据库实际上是不擅长处理关系的。很多场景下,你的业务需求完全超出了当前的数据库架构。

举个栗子:假设某关系型数据库中有这么几张用户、订单、商品表:

当我们要查询:“用户购买了那些商品?” 或者 “该商品有哪些客户购买过?” 需要开发人员JOIN几张表,效率非常低下。

而“购买该产品的客户还购买了哪些商品?”类似的查询几乎不可能实现。

关系查询性能对比
在数据关系中心,图形数据库在查询速度方面非常高效,即使对于深度和复杂的查询也是如此。在《Neo4j in Action》这本书中,作者在关系型数据库
和图数据库(Neo4j)之间进行了实验。

他们的实验试图在一个社交网络里找到最大深度为5的朋友的朋友。他们的数据集包括100万人,每人约有50个朋友。实验结果如下:

深度 MySQL执行时间(s) Neo4J执行时间(s) 返回记录数
2 0.016 0.01 ~2500
3 30.267 0.168 ~110 000
4 1543.505 1.359 ~600 000
5 未完成 2.132 ~800 000

在深度为2时(即朋友的朋友),两种数据库性能相差不是很明显;深度为3时(即朋友的朋友的朋友),很明显,关系型数据库的响应时间30s,已经变得不可接受了;深度到4时,关系数据库需要近半个小时才能返回结果,使其无法应用于在线系统;深度到5时,关系型数据库已经无法完成查询。而对于图数据库Neo4J,深度从3到5,其响应时间均在3秒以内。

可以看出,对于图数据库来说,数据量越大,越复杂的关联查询,约有利于体现其优势。从深度为4/5的查询结果我们可以看出,图数据库返回了整个社交网络一半以上的人数。

3. Neo4J 和 JanuasGraph

根据DB-Engines最新发布的图数据库排名,Neo4J仍然大幅领先排在第一位:

DB-Engines 19年2月图数据库排名### Neo4J

Neo4JNeo4J是由Java实现的开源图数据库。自2003年开始开发,直到2007年正式发布第一版,并托管于GitHub上。

Neo4J支持ACID,集群、备份和故障转移。目前Neo4J最新版本为3.5,分为社区版和企业版,社区版只支持单机部署,功能受限。企业版支持主从复制和读写分离,包含可视化管理工具。

JanusGraph

JanusGraphJanusGraph是一个Linux基金会下的开源分布式图数据库
。JanusGraph提供Apache2.0软件许可证。该项目由IBM、Google、Hortonworks支持。JanusGraph是由TitanDB
图数据库修改而来,TitanDB从2012年开始开发。目前最新版本为0.3.1。

JanusGraph支持多种储存后端(包括Apache Cassandra、Apache HBase、Bigtable、Berkeley
DB)。JanusGraph的可扩展性取决于与JanusGraph一起使用的基础技术。例如,通过使用Apache
Cassandra作为存储后端,可以将JanusGraph简单地扩展到多个数据中心。

JanusGraph通过与大数据平台(Apache Spark,Apache Giraph,Apache
Hadoop)集成,支持全局图数据的分析、报告和ETL。

JanusGraph通过外部索引存储(Elasticsearch,Solr,Lucene)支持地理、数字范围和全文搜索。

3.1 标记属性图模型

标记属性图模型#### (1)节点

  • 节点是主要的数据元素
  • 节点通过 关系 连接到其他节点
  • 节点可以具有一个或多个 属性 (即,存储为键/值对的属性)
  • 节点有一个或多个 标签 ,用于描述其在图表中的作用
  • 示例:人员节点与Car节点

(2)关系

  • 关系连接两个节点
  • 关系是方向性的
  • 节点 可以有多个甚至递归的关系
  • 关系可以有一个或多个属性(即存储为键/值对的属性)

(3)属性

  • 属性是命名值,其中名称(或键)是字符串
  • 属性可以被索引和约束
  • 可以从多个属性创建复合索引

(4)标签

  • 标签用于将 节点 分组
  • 一个节点可以具有多个标签
  • 对标签进行索引以加速在图中查找节点
  • 本机标签索引针对速度进行了优化

4. Cypher图查询语言

Cypher是Neo4j的图形查询语言,允许用户存储和检索图形数据库中的数据。

举例,我们要查找Joe的所以二度好友:

image查询语句如下:


MATCH
(person:Person)-[:KNOWS]-(friend:Person)-[:KNOWS]-
(foaf:Person)
WHERE
person.name = "Joe"
AND NOT (person)-[:KNOWS]-(foaf)
RETURN
foaf

Joe认识Sally,Sally认识Anna。Bob被排除在结果之外,因为除了通过Sally成为二级朋友之外,他还是一级朋友。

5. 小结

图数据库应对的是当今一个宏观的商业世界的大趋势:凭借高度关联、复杂的动态数据,获得洞察力和竞争优势。国内越来越多的公司开始进入图数据库领域,研发自己的图数据库系统。对于任何达到一定规模或价值的数据,图数据库都是呈现和查询这些关系数据的最好方式。而理解和分析这些图的能力将成为企业未来最核心的竞争力。


本文地址:https://www.6aiq.com/article/1589073236892
本文版权归作者和AIQ共有,欢迎转载,但未经作者同意必须保留此段声明,且在文章页面明显位置给出