倒计时1天 DEEPNOVA MEETUP Online即将开始!

2022-04-16 13:51:00

  数据经管技能为各行各业的交易管理了海量存储和解析的需求,但数据量的发生式增加、数据类型的不时厚实,对数据经管技能和时效性都提出了更高的请求,这使得通用揣度引擎(如Spark、Flink)、交互式解析编制(如ClickHouse)、数据湖框架(如Iceberg)等技能速捷发达。

  举动专业的斥地者社区,DEEPNOVA努力于鼓励技能互换、开采技能视野、创造技能生态,并踊跃拥抱开源社区,针对新一代的数据湖、及时数仓等开源技能深切商讨,并完成个别性能的优化。

  为了与斥地者更好地举办技能研究互换,4月16日 14:00—17:30,DEEPNOVA 连结Iceberg社区合伙推出“DEEPNOVA MEETUP Online”。此次行为大旨为《基于 Iceberg 打制及时数据湖》,集聚了DEEPNOVA社区专家团力气,将携带听众相识完善的Iceberg技能发达史及正在邦产化数据中的行使与实施,真正做到将优质技能内容回馈社区。

  内容亮点:Apache Iceberg举动一种盛开的准绳化数据湖外式样,一经被邦外里繁众大厂拔取和行使。近期Apache Iceberg安插正在AWS之上推出贸易版的数据湖存储办事。与此同时,Snowflake、AWS、Cloudera等公司纷纷公布Iceberg数据湖。实情阐明,进程几年的发达,Apache Iceberg博得了飞速的发达和庞杂的凯旋。本次分享内容包罗Iceberg开源进程,以及当下和来日要点发力的技能对象。

  内容亮点:Arctic 是网易自研的基于 Iceberg 的湖仓执掌编制。同时,网易通过Flink和Arctic构修了流批一体的数据坐褥链道,及时离线联合的数仓。正在 Iceberg 底子之上,Arctic具有赞成主键、布局自优化、数据一律性、及时订阅和及时join等特点。本次分享将合键先容 Arctic 的中央安排思绪。

  内容亮点:Z-Order是一种能够将众维数据压缩到一维的技能,正在时空索引以及图像方面应用较广,对众字段举办排序,对原始数据从新构造, 裁汰不须要的I/O,进而提拔盘问速率。基于Iceberg 社区提出的主键去重计划,DEEPNOVA 社区又应用 BloomFilter 举办了优化,对 eq-delete 文献举办过滤,裁汰内存占用,提拔小文献统一结果。本次分享将合键解读FastData正在索引技能上的优化才具。

  内容亮点:Iceberg CDC才具是赞成构修及时数仓的中央才具。DEEPNOVA 社区对 Iceberg CDC 性能举办了完善完成,并完成Hive史籍数据速捷转移入湖,对社区PR 天生元数据的方法举办了并行优化,提拔数倍的转移职能。本次分享将盘绕若何构修及时数仓,映现FastData的技能上风。

  咱们深信技能的进展肯定是众数技能从业者一同起劲的结果,也衷心心愿DEEPNOVA社区能成为技能嗜好者们的研习互换平台,借助更众人的力气将社区修造得越发完满。咱们也将秉持盛开、共享的社区精神,通过更众的技能分享、直播行为等方法回馈社区,让数字技能为寰宇带来无尽恐怕。