图数据库爱好者的聚会在谈论什么?

  • 时间:
  • 浏览:0
  • 来源:5分快乐8_5分快乐8官网

T:在测试方面,Nebula 做了那此工作?

Nebula Graph:有一一有有1个多开源的分布式图数据库。作为唯一才能存储万亿个带属性的节点和边的在线图数据库,Nebula Graph 不仅才能在高并发场景下满足毫秒级的低传输传输速率查询要求,还才能实现服务高可用且保障数据安全性。

GitHub:https://github.com/vesoft-inc/nebula

对图查询的执行计划优化也进行了一定的探索,包括 执行计划缓存 和上下文无关得话的 并发执行 。当然其实查询优化挺难做的,我感觉 更能有效提升传输传输速率的是怎么构图 。本来图的自由度还是挺大的,同有一一有有1个多东西,其实既都才能构图成点、边也都才能做成属性,其实对大多数目前的使用者来说,构图对性能的影响应该会比 DB 优化更明显更快。当然构图其实是和 DB 为什么么么在实现也挺有关系的,比如减少网络传输(比如过滤)、用好 SSD 和 cache(比如减少随机读)、增加各种并发(多系统系统进程、多机)。

T:图库相比其它系统和数据库未来发展趋势,比如相比文档和关系型,它的核心价值是那此?

️ D:有一一有有1个多是集成测试框架,包括 混沌工程 、 错误注入 那此,等完善从前也会开放出来。还有是关于测试集和数据集,对于 DB 来说,这次要的价值是最大的,不过图领域可参考的数据集较少,也有亲们本人积累的。

T:图的生态为什么么么在打造?和附进其它系统为什么么么在集成融合?

关于生态

️ D:从使用体验上看,fbthrift 易读性不错。gRPC 从前用过也挺多。当然写个好的 rpc 还是挺不容易的,然后 轮子暂时也有很急迫。

说到大的架构创新,主要看长期的硬件更新传输传输速率。当然 DB 可做的优化的事情本来本来的,刚才 PPT 上端有提及。

还有固然构造有一一有有1个多超大点出来,不然热点太明显了。回到语言,亲们也考虑是也有 nGQL 上端加一层 Driver 支持 Cypher 和 Gremlin,比如 3000% 的常见功能。还有本来考虑在 webconsole 上增加然后 流程图的功能模块,CRUD 操作用图形化支持,比较复杂的就写 query,对长尾用户上手也有帮助。

优化方面:为除理存储层将不要 数据回传到计算层,占用宝贵传输传输速率,Nebula 做了 计算下沉 ,条件过滤会随查询条件同时分类整理到存储层节点。本来不带然后 过滤,传 3000% 和 1% 的数据,性能是数量级的差异。

️ D:其实图产品有本来,我其实那此产品都才能了说也有趋同,毕竟从几个知名竞品的架构看,彼此之间相差还是蛮大的 :)。本来功能集和架构出发点主要还是针对业务目标,Nebula 设计目标是实现 万亿级别关联关系 和 大并发 低传输传输速率 ,本来选择 了存储计算分离,存储层采用 raft 一致协议,数据 partition 到不同机器上。从前设计主要考虑到存储和计算两者的业务特点和增长传输传输速率不一样,比如 learner 都才能拿来给然后 throughput 优先的场景使用,原集群给 latency 优先的场景使用。

️ D: Everything is connected. 图数据库天生适合表达 connection,本来说多对多的关系。

T:刚才聊到超大点,有啥优化的最好的办法吗,本来对于构图有那此建议嘛?

️D:Nebula 目前阶段侧重 OLTP,现在支持的算法是 全路径 和 最短路径 。在图库 builtin LPA 有不少工作要做(当然其实市面上也有产品),Nebula 现阶段的考虑是采用 存储计算分离架构 ,用户都才能将图型态本来子图抽取到 GraphX 然后 图计算框架,在图计算框架中实现传播算法。本来 OLTP 这块工作完成比较多了,再考虑向 OLAP 然后 方向走。

️ D:其实目前市场上越来越 统一的图查询语言,本来 Cypher 和 Gremlin 影响力要大然后 ,当然要说图语言类的其实更多,比如还有 GraphQL,SPARQL。nGQL 与 SQL 接近,比较容易上手,但不让 SQL 那样嵌套(embedding)。

T:图库在设计上趋同化和同质化,架构上还有那此创新值得尝试?

知乎:https://www.zhihu.com/org/nebulagraph/posts

️ D:其实并也有一定要 hash,本来要求 vid 是定长的 64 bit。定长主本来出于对齐性能考虑,都才能用上 prefix bloomfilter。越来越 变长 id 一般 hash 成 64 bit 最简单,当然用户本人指定 vid 也是支持的,一般然后 从前,都才能把原始 id 塞进点的属性里。

T:为那此要新开发并也有查询语言 nGQL?做了那此优化?

架构和工程

T:key 为那此选择 用 hash 而也有 range?

算法和语言

我感觉描述性的语言,亲们的总体风格还是挺类似于的,上手学习成本其实真越来越 想象越来越 高,花个十几分钟看看为宜 也明白了。很糙类似于中国各地方言(温州话除外,划掉),本来欧洲的各语言,共通的次要挺多的,连蒙带猜基本才能用。当然很糙比较复杂的逻辑还是得看看手册才行。

T: 图库的 builtin 只搞在线查询都才能吗?有必要搞传播算法和最短路径吗?Nebula 为什么么么在实现对图分析算法的支持?

T:gRPC,bRPC,fbthrift 为那此越来越 选 rpc?有越来越 打算本人写有一一有有1个多?

微博:https://weibo.com/nebulagraph

比方说,根据业务类型、时间片段,把有一一有有1个多超大点最好能拆成多个小点,从前操作点一般不让落在有一一有有1个多 partition 上,再把当中热点的 partition 迁移到不同的机器上。举例来说,遍历不要 得话,通常性能也有会太好,也都才能了把属性塞进起点和终点上。像 (Subject1)->(Predicate1)->(Object1)  从前, (Subject1)、(Predicate1)、(Object1) 有一一有有1个多节点,两跳深度1,本来要走一次网络,但改成 (Subject1)-[Predicate1]->(Object1)  从前 -[Predicate1]->  改成并也有类型的边,那就不走网络,很糙当查询深度1更深时,然后 构图对性能优化很明显。类似于的,还有属性值除理,如:起点的 Name(string),固然作为边属性,不然同有一一有有1个多点出去的所有边上都冗余了然后 Name(string),更新的从前也巨麻烦。

图数据库都才能很高效的查询几度关系,而传统关系型数据库不擅长,一般都都才能做表连接,表连接是有一一有有1个多很昂贵的操作,涉及到絮状的 IO 操作及内存消耗。

️ D:对于超大点建议还是构图和查询时,想最好的办法除理(分解)比较好,然后 和 SQL 分库分表差不要 。比如:遍历过程中 touch 到的交易对手很大(比如:美团),那最好能给然后 大点打标,遍历从前过滤掉。当然打标本来要离线 count 一下才知道。

下面是现场的 Topic ( 以下简称:T ) & Discussion ( 以下简称:D ) 速记:

Nebula Graph:有一一有有1个多开源的分布式图数据库。

本次分享主要介绍了 Nebula Graph 的型态,以及新上线的《使用 Docker 构建 Nebula Graph》功能。

在工具方面,提供数据批量导入和导出的工具,比如 GraphX,Yarn,Spark 等。还有,本来对机器学习的需求支持,存储计算相分离的架构使得 Nebula 非常容易集成图计算框架。本来 Nebula 是开源产品,那此工具欢迎亲们同时参与:)

但我其实其实文档、关系和图相互还是借鉴非常多的,我记得《DesigningData-Intensive Applications》上端有章本来做它们之间的比较。

️ D:在查询语言方面,增加对 Gremlin、Cypher 的支持。

image.png

在上周六的聚会中,Nebula Graph Committer 吴敏给爱好者们介绍了整体架构和型态,并然后被各位大佬轮番蹂躏(划掉)。