两行代码解决 RavenDB 性能问题

栏目: 数据库 · 发布时间: 5年前

原文标题:Changing Fundamental Behavior With Two Lines of Code(用两行代码改变基础行为)

作者: Oren Eini, CEO RavenDB

一直以来我们对 RavenDB 的启动时间并没有太多关注 —— 5 秒或者 15 秒都不是什么问题。但是如果超过 15 秒,甚至长达 3 分钟的话,那我们就必须关注了。

我们的一个用户提供了一个有意思的用例。他们的系统运行在 Azure 上,并充分利用了多设备存储,也就是将数据库临时文件(journals)放在高性能存储服务上,而数据本身放在更大(且相对较慢)的普通存储上。这么做是因为他们的数据量很大,比如某条索引的大小就超过了 256GB。

在他们系统当中,RavenDB 的启动慢到无法接受。我们经过排查发现根本原因在于启动过程中的数据恢复阶段,此时数据库会重新执行临时文件中的最近事务,以保证数据完整性。通常来讲这步花不了多少时间,因为默认情况下,即使数据库负载较大时,临时文件大小也只有 256MB 左右。但我们这位客户的使用场景比较特殊,我们观察到临时文件中一个事务的数据量能达到几个 GB 的大小,再加上临时文件的内容是经过压缩的,所以当数据恢复到主存储当中时,实际的数据量会达到 10GB 以上。虽然那些已经执行过的事务不需要重复执行,但我们必须要先扫描临时文件,来找到哪部分是已经执行过的。

在这个基础上,考虑到数据库的个数,以及每个数据库的索引个数,RavenDB 启动时的整体消耗就变得十分可观了。显然这不是我们所要的。如果我们遇到系统崩溃,那么目前还没有什么好的办法来避免重新执行这些事务;但问题是就算没有遇到崩溃,就算是正常关闭,重新启动的过程还是一样的缓慢。

这个问题本质上是因为 RavenDB 没有在临时文件中标记哪个位置是已经同步过的,所以在启动过程中我们必须扫描整个临时文件,来找到需要重新执行的部分。当然我们可以在临时文件中补上这个标记,但是我们不能直接去更改客户现有系统的数据文件格式,这种解决方案不但感觉别扭,而且可能带来兼容性问题。

我们也考虑修改数据库的行为,使得在对某个大数据量的事务同步成功后,更加主动的切换到另一个临时文件。今天我在查看相关代码时,发现了一个有问题的地方。每当我们处理一个大事务(事务大小超过临时文件最大大小)时,为了有足够的空间,我们会在磁盘上扩充临时文件的大小,而我们分配空间的计算方式很有意思:

两行代码解决 RavenDB 性能问题

如图所示,如果当前的临时文件大小小于需要的最小空间,我们会要增加其空间;同时为了避免过于频繁的扩充文件操作,我们还会考虑给下一个事务预留足够的空间。现在我们假设当前临时文件大小为 256MB(也是系统预设的最大值),而事务大小为 1.56GB。

这种情况下,临时文件将会扩充到 2GB 大小,而其中只有 1.56GB 用到了。本来剩余的空间我们是可以继续利用的,除非下一个事务很大,比如有 800MB,我们就会要重建一个新的 1GB 大小的文件。

这个时候问题来了。对于这个 2GB 大小的临时文件,假设我们已经成功将其内容同步到了主存储,那么剩下还有 440MB 的空间可用,我们就会保留这个临时文件用它来存储下一个事务。如果在这个点上数据库进行了重启,那么在启动阶段就必须扫描整个 2GB 的临时文件来确保没有丢失数据。要修复这个问题也超简单:

两行代码解决 RavenDB 性能问题

我们要做的就是当扩充后的大小大于临时文件最大大小时,取临时文件最大大小和实际需要的大小之间的最大值作为最终的实际大小。这样扩充后的临时文件就刚好只能容纳一个大事务。当这个事务成功同步后,因为没有额外的空间再容纳另一个事务,于是 Voron 便会马上清理这个文件。这样临时文件中就不存在残留的大事务数据。这个改动既简洁又有效,非常棒,我非常喜欢。


以上所述就是小编给大家介绍的《两行代码解决 RavenDB 性能问题》,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对 码农网 的支持!

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

哥德尔、艾舍尔、巴赫

哥德尔、艾舍尔、巴赫

[美] 侯世达 / 严勇、刘皓明、莫大伟 / 商务印书馆 / 1997-5 / 88.00元

集异璧-GEB,是数学家哥德尔、版画家艾舍尔、音乐家巴赫三个名字的前缀。《哥德尔、艾舍尔、巴赫书:集异璧之大成》是在英语世界中有极高评价的科普著作,曾获得普利策文学奖。它通过对哥德尔的数理逻辑,艾舍尔的版画和巴赫的音乐三者的综合阐述,引人入胜地介绍了数理逻辑学、可计算理论、人工智能学、语言学、遗传学、音乐、绘画的理论等方面,构思精巧、含义深刻、视野广阔、富于哲学韵味。 中译本前后费时十余年,......一起来看看 《哥德尔、艾舍尔、巴赫》 这本书的介绍吧!

JSON 在线解析
JSON 在线解析

在线 JSON 格式化工具

图片转BASE64编码
图片转BASE64编码

在线图片转Base64编码工具

HEX CMYK 转换工具
HEX CMYK 转换工具

HEX CMYK 互转工具