初窥InnoDB的Memcached插件

    作者:课课家教育更新于: 2017-05-15 17:03:52

      以前单独架设Memcached服务器不仅浪费了内存,而且还必须自己维护数据的不一致问题,有了Memcached插件,这些问题都不存在了,而且借助MySQL本身的复制功能,我们可以说是变相的实现了Memcached的复制,这更是意外之喜。

      在上周,Tomas在MySQLPerconaLiveConferenceinLondon,宣布了MySQL5.7的版本--在只读的(Read-Only)测试环境,InnoDB的Memcachedplugin的版本中,可以处理每秒1,000,000次的查询。这个文章就是证实这个说法的。

      实际上,我至今也没有准确说法,到底可拓展性有多么的准确和有多少的性能限制在这里面..我们可以在最新的MySQL5.7中可以得到最大的性能提升,并且,并且可以让我们轻松的在“普通的”(normal)SQL在只读的环境中(Read-Onlyworkload)测试到500KQPS。接下来,更多的性能提升在InnoDBMemcachedPlugin代码中变为可能,然而,一切都是那么自然。尤其在Facebook团队,他们突破并展现出巨大的性能点。当然,Facebook给我们提供了一个测试case,我们也用它来成功的提高了我们代码。最终,同样的测试案例会在下面的测试评分结果中展示出来;-)

      这个测试是在”独立“(standalone)模式上测试的。(包括服务器,客户端都在上面运行)。所以,我们使用我们实验室最大的HWbox-一个48核的机器。这个服务器能够迅速的给我们指出一个存在的,或者潜在的性能瓶颈(最有趣的是,大部分他们都是在memcached代码上面)。然而,QPS依赖于内存和CPU。因此,这台服务器是只有2Ghz的CPU核,如果有存在其他更快的HW,你可能能得到更好的积分统计:-)

      现在,比较最好-最好的QPS结果如下:

    这个测试是在”独立“(standalone)模式上测试的。(包括服务器,客户端都在上面运行)。所以,我们使用我们实验室最大的HWbox-一个48核的机器。这个服务器能够迅速的给我们指出一个存在的,或者潜在的性能瓶颈(最有趣的是,大部分他们都是在memcached代码上面)。然而,QPS依赖于内存和CPU。因此,这台服务器是只有2Ghz的CPU核,如果有存在其他更快的HW,你可能能得到更好的积分统计:-)    现在,比较最好-最好的QPS结果如下:

      我曾经把MySQL5.6放上神坛,给它打上“有史以来最好的结果”这样的标签;-))——由于一部分的Memcached代码性能提高也会反过来提升MySQL5.6的性能,所以我们也期望在5.6的下一版本中也能运行的良好。实际上,只需要MySQL5.7,你就可以达到一个很高的水平……

      在我在伦敦的Percona现场讨论会上,我曾经展示过下面这些图表——MemcachedQPS是符合InnoDB的“DML_read/sec”的状态:

    我曾经把MySQL5.6放上神坛,给它打上“有史以来最好的结果”这样的标签;-))——由于一部分的Memcached代码性能提高也会反过来提升MySQL5.6的性能,所以我们也期望在5.6的下一版本中也能运行的良好。实际上,只需要MySQL5.7,你就可以达到一个很高的水平……    在我在伦敦的Percona现场讨论会上,我曾经展示过下面这些图表——MemcachedQPS是符合InnoDB的“DML_read/sec”的状态:

      这些图表代表着在“上一版”MySQL上所做的4个Memcached负载测试:

      #1运行在48核的机器上……——我们遇到了与MVCC相关的服务器冲突(在最新版的MySQL5.7中已经修复了)

      #2限制MySQL服务运行在16核的机器上,以降低这个冲突……——然后,我们遇到了事务冲突(这也在最新版的MySQL5.7中修复了)

      #3调整Memcachedplugin,在一个独立的事务内部保持一些读操作——神啊,救救我吧,我又遇到了一些其他的冲突……

      #4限制MySQL服务运行在8核的机器上,看是否会降低冲突——事实表明,最大QPS有所提高(在32个用户的情况下),但是整体性能却更糟了……

      相反的,在最新版的MySQL5.7中,情况确实完全不同:

    #3调整Memcachedplugin,在一个独立的事务内部保持一些读操作——神啊,救救我吧,我又遇到了一些其他的冲突……    #4限制MySQL服务运行在8核的机器上,看是否会降低冲突——事实表明,最大QPS有所提高(在32个用户的情况下),但是整体性能却更糟了……    相反的,在最新版的MySQL5.7中,情况确实完全不同:

      这些图所表示的是两个测试:

      #1-运行在48核的机器上(不做太多评论;-))

      #2-调整了一些参数,在一个独立的内部事务中保持一些读取的操作,结果只有在QPS的峰值上稍微好点,其他方面没有什么区别。

      接下来为了更好的感受到QPS的差距,我们将这些测试结果放在一个图表中:

     #2-调整了一些参数,在一个独立的内部事务中保持一些读取的操作,结果只有在QPS的峰值上稍微好点,其他方面没有什么区别。    接下来为了更好的感受到QPS的差距,我们将这些测试结果放在一个图表中:

      你可以更形象的看到这两者的不同。

      图表的左半部分曲线代表的QPS水平都是在“旧版”的MySQL5.6/5.7上得到的。

      然后右半部分的曲线是在最新版的MySQL5.7上得到的。

      限制

      Memcached插件用起来非常简单,不过并不是一切都很完美,比如说:当我们配置表的时候,containers表的字段,除了key_columns和value_columns以外,其它的字段,如:flags,cas_column,expire_time_column等也必须设定,可是很多时候,我们在原表中找不到贴切的字段,此时就只能对应新建三个字段,味道很恶心。

      此外,containers表还有如下限制,不过随着版本的更新,这些限制可能发生变化:

      key_columns字段的类型必须是CHAR或VARCHAR,且最大长度是250个字符。

      value_columns字段的类型必须是CHAR或VARCHAR或BLOB,长度不限。

      cas_column字段的类型必须是BIGINT。

      expiration_time_column字段的类型必须是INT。

      flags字段的类型必须是INT。

      这项工作仍在进展中,关于在这个最新的MySQL5.7版本中我们实现的巨大进步,我会让Sunny和Jimmy给你们提供其中所有深入的细节。

      我不知道这里的性能极限在于哪里。可能只存在于HW(HardWare)层面。我也不知道是否有足够庞大的HW来观察它;-)——现在经由一个单独的1Gbit网络链接,我们已经观察到超过700KQPS的性能了,当这个来自于单独网络链路的极限峰值到达时,主要的麻烦却来自于客户端处理程序,而不是服务器——所以,看上去相比较“原始的”Memcached本身来说,Memcached@InnoDB具有更好的伸缩性;-)——那么,当有几个网络链接启用(或者仅仅只是使用更快速的网卡)的时候可能会有什么样的性能呢——还有许多东西需要去探索发掘的!而且RW(ReadWrite)工作负载性能也是另一项挑战;-)

      小编结语:

      更多内容尽在课课家教育!

课课家教育

未登录