首页 > 快讯 >

焦点资讯:Redis缓存空间优化实践详解

2023-04-22 06:17:53 来源:脚本之家
目录
导读场景设定常规做法改进1-去掉属性名改进2-使用更好的序列化工具改进3-优化数据类型改进4-考虑ZIP压缩最终落地场景延伸

导读

缓存Redis,是我们最常用的服务,其适用场景广泛,被大量应用到各业务场景中。也正因如此,缓存成为了重要的硬件成本来源,我们有必要从空间上做一些优化,降低成本的同时也会提高性能。

下面以我们的案例说明,将缓存空间减少70%的做法。

场景设定

1、我们需要将POJO存储到缓存中,该类定义如下


【资料图】

public class TestPOJO implements Serializable {
    private String testStatus;
    private String userPin;
    private String investor;
    private Date testQueryTime;
    private Date createTime;
    private String bizInfo;
    private Date otherTime;
    private BigDecimal userAmount;
    private BigDecimal userRate;
    private BigDecimal applyAmount;
    private String type;
    private String checkTime;
    private String preTestStatus;
    
    public Object[] toValueArray(){
        Object[] array = {testStatus, userPin, investor, testQueryTime,
                createTime, bizInfo, otherTime, userAmount,
                userRate, applyAmount, type, checkTime, preTestStatus};
        return array;
    }
    
    public CreditRecord fromValueArray(Object[] valueArray){         
        //具体的数据类型会丢失,需要做处理
    }
}

2、用下面的实例作为测试数据

TestPOJO pojo = new TestPOJO();
pojo.setApplyAmount(new BigDecimal("200.11"));
pojo.setBizInfo("XX");
pojo.setUserAmount(new BigDecimal("1000.00"));
pojo.setTestStatus("SUCCESS");
pojo.setCheckTime("2023-02-02");
pojo.setInvestor("ABCD");
pojo.setUserRate(new BigDecimal("0.002"));
pojo.setTestQueryTime(new Date());
pojo.setOtherTime(new Date());
pojo.setPreTestStatus("PROCESSING");
pojo.setUserPin("ABCDEFGHIJ");
pojo.setType("Y");

常规做法

System.out.println(JSON.toJSONString(pojo).length());

使用JSON直接序列化、打印 length=284**,**这种方式是最简单的方式,也是最常用的方式,具体数据如下:

{"applyAmount":200.11,"bizInfo":"XX","checkTime":"2023-02-02","investor":"ABCD","otherTime":"2023-04-10 17:45:17.717","preCheckStatus":"PROCESSING","testQueryTime":"2023-04-10 17:45:17.717","testStatus":"SUCCESS","type":"Y","userAmount":1000.00,"userPin":"ABCDEFGHIJ","userRate":0.002}

我们发现,以上包含了大量无用的数据,其中属性名是没有必要存储的。

改进1-去掉属性名

System.out.println(JSON.toJSONString(pojo.toValueArray()).length());

通过选择数组结构代替对象结构,去掉了属性名,打印 length=144,将数据大小降低了50%,具体数据如下:

["SUCCESS","ABCDEFGHIJ","ABCD","2023-04-10 17:45:17.717",null,"XX","2023-04-10 17:45:17.717",1000.00,0.002,200.11,"Y","2023-02-02","PROCESSING"]

我们发现,null是没有必要存储的,时间的格式被序列化为字符串,不合理的序列化结果,导致了数据的膨胀,所以我们应该选用更好的序列化工具。

改进2-使用更好的序列化工具

//我们仍然选取JSON格式,但使用了第三方序列化工具
System.out.println(new ObjectMapper(new MessagePackFactory()).writeValueAsBytes(pojo.toValueArray()).length);

选取更好的序列化工具,实现字段的压缩和合理的数据格式,打印 **length=92,**空间比上一步又降低了40%。

这是一份二进制数据,需要以二进制操作Redis,将二进制转为字符串后,打印如下:

��SUCCESS�ABCDEFGHIJ�ABCD��j�6���XX��j�6����?`bM����@i��Q�Y�2023-02-02�PROCESSING

顺着这个思路再深挖,我们发现,可以通过手动选择数据类型,实现更极致的优化效果,选择使用更小的数据类型,会获得进一步的提升。

改进3-优化数据类型

在以上用例中,testStatus、preCheckStatus、investor这3个字段,实际上是枚举字符串类型,如果能够使用更简单数据类型(比如byte或者int等)替代string,还可以进一步节省空间。其中checkTime可以用Long类型替代字符串,会被序列化工具输出更少的字节。

public Object[] toValueArray(){
    Object[] array = {toInt(testStatus), userPin, toInt(investor), testQueryTime,
    createTime, bizInfo, otherTime, userAmount,
    userRate, applyAmount, type, toLong(checkTime), toInt(preTestStatus)};
    return array;
}

在手动调整后,使用了更小的数据类型替代了String类型,打印 length=69

改进4-考虑ZIP压缩

除了以上的几点之外,还可以考虑使用ZIP压缩方式获取更小的体积,在内容较大或重复性较多的情况下,ZIP压缩的效果明显,如果存储的内容是TestPOJO的数组,可能适合使用ZIP压缩。

但ZIP压缩并不一定会减少体积,在小于30个字节的情况下,也许还会增加体积。在重复性内容较少的情况下,无法获得明显提升。并且存在CPU开销。

在经过以上优化之后,ZIP压缩不再是必选项,需要根据实际数据做测试才能分辨到ZIP的压缩效果。

最终落地

上面的几个改进步骤体现了优化的思路,但是反序列化的过程会导致类型的丢失,处理起来比较繁琐,所以我们还需要考虑反序列化的问题。

在缓存对象被预定义的情况下,我们完全可以手动处理每个字段,所以在实战中,推荐使用手动序列化达到上述目的,实现精细化的控制,达到最好的压缩效果和最小的性能开销。

可以参考以下msgpack的实现代码,以下为测试代码,请自行封装更好的Packer和UnPacker等工具:

    
    org.msgpack    
    msgpack-core    
    0.9.3
public byte[] toByteArray() throws Exception {
        MessageBufferPacker packer = MessagePack.newDefaultBufferPacker();
        toByteArray(packer);
        packer.close();
        return packer.toByteArray();
    }

    public void toByteArray(MessageBufferPacker packer) throws Exception {
        if (testStatus == null) {
            packer.packNil();
        }else{
            packer.packString(testStatus);
        }

        if (userPin == null) {
            packer.packNil();
        }else{
            packer.packString(userPin);
        }

        if (investor == null) {
            packer.packNil();
        }else{
            packer.packString(investor);
        }

        if (testQueryTime == null) {
            packer.packNil();
        }else{
            packer.packLong(testQueryTime.getTime());
        }

        if (createTime == null) {
            packer.packNil();
        }else{
            packer.packLong(createTime.getTime());
        }

        if (bizInfo == null) {
            packer.packNil();
        }else{
            packer.packString(bizInfo);
        }

        if (otherTime == null) {
            packer.packNil();
        }else{
            packer.packLong(otherTime.getTime());
        }

        if (userAmount == null) {
            packer.packNil();
        }else{
            packer.packString(userAmount.toString());
        }

        if (userRate == null) {
            packer.packNil();
        }else{
            packer.packString(userRate.toString());
        }

        if (applyAmount == null) {
            packer.packNil();
        }else{
            packer.packString(applyAmount.toString());
        }

        if (type == null) {
            packer.packNil();
        }else{
            packer.packString(type);
        }

        if (checkTime == null) {
            packer.packNil();
        }else{
            packer.packString(checkTime);
        }

        if (preTestStatus == null) {
            packer.packNil();
        }else{
            packer.packString(preTestStatus);
        }
    }


    public void fromByteArray(byte[] byteArray) throws Exception {
        MessageUnpacker unpacker = MessagePack.newDefaultUnpacker(byteArray);
        fromByteArray(unpacker);
        unpacker.close();
    }

    public void fromByteArray(MessageUnpacker unpacker) throws Exception {
        if (!unpacker.tryUnpackNil()){
            this.setTestStatus(unpacker.unpackString());
        }
        if (!unpacker.tryUnpackNil()){
            this.setUserPin(unpacker.unpackString());
        }
        if (!unpacker.tryUnpackNil()){
            this.setInvestor(unpacker.unpackString());
        }
        if (!unpacker.tryUnpackNil()){
            this.setTestQueryTime(new Date(unpacker.unpackLong()));
        }
        if (!unpacker.tryUnpackNil()){
            this.setCreateTime(new Date(unpacker.unpackLong()));
        }
        if (!unpacker.tryUnpackNil()){
            this.setBizInfo(unpacker.unpackString());
        }
        if (!unpacker.tryUnpackNil()){
            this.setOtherTime(new Date(unpacker.unpackLong()));
        }
        if (!unpacker.tryUnpackNil()){
            this.setUserAmount(new BigDecimal(unpacker.unpackString()));
        }
        if (!unpacker.tryUnpackNil()){
            this.setUserRate(new BigDecimal(unpacker.unpackString()));
        }
        if (!unpacker.tryUnpackNil()){
            this.setApplyAmount(new BigDecimal(unpacker.unpackString()));
        }
        if (!unpacker.tryUnpackNil()){
            this.setType(unpacker.unpackString());
        }
        if (!unpacker.tryUnpackNil()){
            this.setCheckTime(unpacker.unpackString());
        }
        if (!unpacker.tryUnpackNil()){
            this.setPreTestStatus(unpacker.unpackString());
        }
    }

场景延伸

假设,我们为2亿用户存储数据,每个用户包含40个字段,字段key的长度是6个字节,字段是分别管理的。

正常情况下,我们会想到hash结构,而hash结构存储了key的信息,会占用额外资源,字段key属于不必要数据,按照上述思路,可以使用list替代hash结构。

通过Redis官方工具测试,使用list结构需要144G的空间,而使用hash结构需要245G的空间**(当50%以上的属性为空时,需要进行测试,是否仍然适用)**

在以上案例中,我们采取了几个非常简单的措施,仅仅有几行简单的代码,可降低空间70%以上,在数据量较大以及性能要求较高的场景中,是非常值得推荐的。:

• 使用数组替代对象(如果大量字段为空,需配合序列化工具对null进行压缩)

• 使用更好的序列化工具

• 使用更小的数据类型

• 考虑使用ZIP压缩

• 使用list替代hash结构(如果大量字段为空,需要进行测试对比)

以上就是Redis缓存空间优化实践的详细内容,更多关于Redis缓存空间优化的资料请关注脚本之家其它相关文章!

上一篇:

厦门钨业:2022年净利同比增22.68% 拟10派3.5元-全球快报

下一篇:

最后一页

x
推荐阅读

焦点资讯:Redis缓存空间优化实践详解

厦门钨业:2022年净利同比增22.68% 拟10派3.5元-全球快报

焦点讯息:宝马MINI翻车了,上海车展谁赢了?

dnf魔枪士_魔枪士刷图转职职业的简要分析

每日快看:环氧乙烷_关于环氧乙烷介绍

第二届中国支线航空发展峰会在昆明召开_天天视点

2022上半年四川绵阳市涪城区事业单位招聘拟聘人员公示(第五批)-环球热讯

热门看点:勇士VS国王G3述评:死守禁区!库里统治进攻 卢德曼掌控篮板

4月21日基金净值:长盛制造精选混合A最新净值1.0797,跌2.01%-环球速讯

4月21日基金净值:华商领先企业混合最新净值0.7093,跌2.23%_每日快讯

天天实时:三色堇的种植小技巧 三色堇种植方法和时间

桂林象鼻山介绍20字_桂林象鼻山介绍

网贷五年没还了会有什么后果呢-全球观热点

华成工控2022年净利1387.35万同比减少73.42% 毛利率下降

百部网文入藏上海图书馆,Z世代成数字阅读主力军

房地产行业土地增值税计算方法(房地产土地增值税计算方法)-环球即时

播报:特奥足球队在上海乡村开赛 首次设立女子融合足球赛事

苹果手机为什么会发热发烫(苹果手机发热发烫是什么原因)

庐陵王是什么官_庐陵王简介

58同城发布招聘信息怎么收费

【世界新视野】《波提切利与文艺复兴》上海开箱 波提切利4件名作率先登场

AMD为16"MacBookPro推出RadeonPro5600M行动GPU

互联网大厂的“预制菜”战争 世界快播

8050亿个太阳质量!新研究为银河系“称重” 环球微头条

深沪港通交易日历优化下周一正式实施 互联互通机制持续优化 播资讯

焦点信息:汤姆猫于绍兴成立人工智能合资公司 注册资本2亿元

全景影像独角兽影石Insta360年营收破20亿,已连续三年增长超50%

快消息!出血点和白血病有关系吗?_正常出血点和白血病出血点的区别

因转播运营商未公开播放C罗不雅动作的镜头 因此他不会受罚

「每日社科」一封习近平写于1984年的信 全球观察

天天新资讯:收益率和年化率区别_收益率

国家核心期刊都有哪些类型_国家核心期刊都有哪些

雨的诗歌自己编的_雨的诗

清风头条丨宁远县禾亭镇:廉洁文化进乡村 清廉之风沁人心_世界短讯

全球信息:大禹节水:将紧抓历史发展机遇 开创数字水利生态发展新格局

新华养老盈佳人生专属商业养老保险有什么优势?值得买吗?-全球讯息

多所高校设烟草专业!专家:不能仅盯着烟草的商业价值-全球信息

产品利润降低,合盛硅业2022年归母净利同比下降37.39%

鲁股速递丨德石股份2022年度净利增22.58%至7649.73万元

益阳师专考察组前往深圳考察调研

天天动态:华容县委编办:持续深化“三转” 做实做细调查研究“大文章”

天天视点!安图生物:2022年归母净利润11.67亿元,同比增19.9%,拟10派8元

速看:秦汉新城开通7×24小时全年无休“企业110”服务专线

html怎么才可以让图片居中(HTML中图片居中的简单办法)

全球滚动:山西规上工业企业和优质中小企业持续壮大

超八成受访大学生按下“生活倍速键”

达诚基金管理有限公司旗下基金2023年第1季度报告提示性公告

陆金贷(小额应急)网贷逾期五个月影响征信吗-每日速讯

历史课本删减“扁鹊”,并不是不尊重古人,实际的原因让人无奈 世界热门

新消息丨看书突然看到这个关于科斯塔库塔的,说的准确吗?原...