精选文章 后端开发的技巧总结

后端开发的技巧总结

作者:wucms 时间: 2020-07-28 09:56:20
wucms 2020-07-28 09:56:20

模块化设计

根据业务场景,将业务抽离成独立模块,对外通过接口提供服务,减少系统复杂度和耦合度,实现可复用,易维护,易拓展

项目中实践例子:

Before:

在返还购APP里有个【我的红包】的功能,用户的红包数据来自多个业务,如:邀请新用户注册领取100元红包,大促活动双倍红包,等各种活动红包,多个活动业务都实现了一套不同规则的红包领取和红包奖励发放的机制,导致红包不可管理,不能复用,难维护难拓展

After:

  • 重构红包业务
  • 红包可后台管理
    • 红包信息管理,可添加,可编辑,可配置红包使用的规则,可管理用户红包
  • 红包奖励发放统一处理
  • 应用业务的接入只需要专注给用户进行红包发放即可

设计概要

后端开发的技巧总结1

 

Before VS After

后端开发的技巧总结2

产品有时提出的业务需求没有往这方面去考虑,结合场景和未来拓展需要,在需求讨论的时候提出模块化设计方案,并可以协助产品进行设计

 

通用服务抽离

在项目开发中经常会遇到些类似的功能,但是不同的开发人员都各自实现,或者因为不能复用又重新开发一个,导致了类似功能的重复开发,所以我们需要对能够抽离独立服务的功能进行抽离,达到复用的效果,并且可以不断拓展完善,节约了后续开发成本,提高开发效率,易于维护和拓展

项目中实践例子:

Before

在业务中经常需要对用户进行信息通知,如:短信定时通知,APP消息推送,微信通知,等

开发人员在接到需求中有通知功能的时候没有考虑后续拓展,就接入第三方信息通知平台,然后简单封装个信息通知方法,后续也有类似信息通知需求的时候,另一个开发人员发现当前这个通知方法无法满足自己的需求,然后又自己去了解第三方平台重新封装了通知方法,或者后续需求加了定时通知的功能,开发人员针对业务去实现了个定时通知功能,但是只能自己业务上使用,其他业务无法接入,没有人去做这块功能的抽离,久而久之就演变成功能重复开发,且不易于维护和拓展

After

接触到这种可以抽离通用服务需求的时候,就会与产品确认这种需求是否后续会存在类似的需要,然后建议这把块需求抽离成通用服务,方便后续维护和拓展

设计概要

后端开发的技巧总结3

Before VS After

后端开发的技巧总结4

 

架构独立服务

项目开发过程中有些需求是与所在项目业务无关,如:收集用户行为习惯,收集商品曝光点击,数据收集提供给BI进行统计报表输出,公用拉新促活业务(柚子街和返还公用),类似这种需求,我们结合应用场景,考虑服务的独立性,以及未来的拓展需要,架构独立项目进行维护,在服务器上独立分布式部署不影响现有主业务服务器资源

项目中实践例子:

架构用户行为跟踪独立服务,在开发前预估了下这个服务的请求量,并会有相对大量的并发请求

架构方案:

  • 项目搭建选择用nodejs来做服务端
    • 单进程,基于事件驱动和无阻塞I/O,所以非常适合处理并发请求
    • 负载均衡:cluster模块/PM2
  • 架构nodejs独立服务
  • 提供服务接口给客户端
  • 接口不直接DB操作,保证并发下的稳定性
  • 数据异步入库
    • 通过程序把数据从:消息队列=>mysql
  • nodejs+express+redis(list)/mq+mysql

用户行为跟踪服务的服务架构图

后端开发的技巧总结5

 

高并发优化

高并发除了需要对服务器进行垂直扩展和水平扩展之外,作为后端开发可以通过高并发优化,保证业务在高并发的时候能够稳定的运行,避免业务停滞带来的损失,给用户带来不好的体验

缓存:

  • 服务端缓存
    • 内存数据库
      • redis
      • memcache
    • 方式
      • 优先缓存
        • 穿透DB问题
      • 只读缓存
        • 更新/失效删除
    • 注意
      • 内存数据库的分配的内存容量有限,合理规划使用,滥用最终会导致内存空间不足
      • 缓存数据需要设置过期时间,无效/不使用的数据自动过期
      • 压缩数据缓存数据,不使用字段不添加到缓存中
      • 根据业务拆分布式部署缓存服务器
  • 客户端缓存
    • 方式
      • 客户端请求数据接口,缓存数据和数据版本号,并且每次请求带上缓存的数据版本号
      • 服务端根据上报的数据版本号与数据当前版本号对比
      • 版本号一样不返回数据列表,版本号不一样返回最新数据和最新版本号
    • 场景:
      • 更新频率不高的数据

服务端缓存架构图

后端开发的技巧总结6

 

异步

异步编程

  • 方式:
    • 多线程编程
    • nodejs异步编程
  • 场景:
    • 参与活动成功后进行短信通知
    • 非主业务逻辑流程需要的操作,允许异步处理其他辅助业务,等

业务异步处理

  • 方式
    • 业务接口将客户端上报的数据PUSH到消息队列(MQ中间件),然后就响应结果给用户
    • 编写独立程序去订阅消息队列,异步处理业务
  • 场景:
    • 大促活动整点抢限量红包
      • 参与成功后委婉提示:预计X天后进行红包发放
    • 并发量比较大的业务,且没有其他更好的优化方案,业务允许异步处理
  • 注意:
    • 把控队列消耗的进度
    • 保证幂等性和数据最终一致性
  • 缺陷:
    • 牺牲用户体验

【业务异步处理】架构图

后端开发的技巧总结7

【业务异步处理】除了可以在高并发业务中使用,在上面通用服务的设计里也是用这种架构方式

 

限流

在类秒杀的活动中通过限制请求量,可以避免超卖,超领等问题
高并发的活动业务,通过前端控流,分散请求,减少并发量

  • 服务端限流
    • redis 计数器
    • 如:类秒杀活动
  • 客户端控流
    • 通过参与活动游戏的方式
    • 红包雨/小游戏,等方式

 

服务降级

当服务器资源消耗已经达到一定的级别的时候,为了保证核心业务正常运行,需要丢卒保车,弃车保帅,服务降级是最后的手段,避免服务器宕机导致业务停滞带来的损失,以及给用户带来不好的体验

  • 业务降级
    • 从复杂服务,变成简单服务
    • 从动态交互,变成静态页面
  • 分流到CDN
    • 从CDN拉取提前备好的JSON数据
    • 引导到CDN静态页面
  • 停止服务
    • 停止非核心业务,并进行委婉提示

 

高并发优化概要图

后端开发的技巧总结8

 

防刷/防羊毛党

大多数公司的产品设计和程序猿对于推广活动业务的防刷意识不强,在活动业务设计和开发的过程中没有把防刷的功能加入业务中,给那些喜欢刷活动的人创造了很多的空子
等到你发现自己被刷的时候,已经产生了不小的损失,少则几百几千,多则几万

随着利益的诱惑,现在已经浮现了一个新的职业“刷客”,专业刷互联网活动为生,养了N台手机+N个手机号码+N个微信账号,刷到的奖励金进行提现,刷到活动商品进行低价转手处理,开辟了一条新的灰色产业链

我们要拿起武器(代码)进行自我的防御,风控,加高门槛,通过校验和限制减少风险发生的各种可能性,减少风险发生时造成的损失

这里列出常用套路(具体应用结合业务场景):

校验请求合法性

  • 请求参数合法性判断
  • 请求头校验
    • user-agent
    • referer
    • ... ...
  • 签名校验
    • 对请求参数进行签名
  • 设备限制
  • IP限制
  • 微信unionid/openid合法性判断
  • 验证码/手机短信验证码
    • 牺牲体验
  • 自建黑名单系统过滤

业务风控

  • 限制设备/微信参与次数
  • 限制最多奖励次数
  • 奖池限制
  • 根据具体业务场景设计... ...

应对角色

  • 普通用户
  • 技术用户
  • 专业刷客
    • 目前还没有很好的限制方式

防刷/防羊毛党套路概要图

后端开发的技巧总结9

附加

  • APP/H5中签名规则应该由客户端童鞋开发,然后拓展API给前端JS调用,在H5发起接口请求的时候调用客户端拓展的签名,这样可以避免前端JS里构造签名规则而被发现破解

 

并发问题

多操作

  • 场景:

当==同用户==多次触发点击,或者通过模拟并发请求,就会出现多操作的问题,比如:签到功能,一天只能签到一次,可以获得1积分,但是并发的情况下会出现用户可以获得多积分的问题

  • 剖析:

简化签到逻辑一般是这样的:

查询是否有签到记录 --> 否 --> 添加今日签到记录 --> 累加用户积分 --> 签到成功
查询是否有签到记录 --> 是 --> 今日已经签到过

假设这个时候用户A并发两个签到请求,这时会同时进入到 【查询是否有签到记录】,然后同时返回否,就会添加两条的签到记录,并且多累加积分

  • 解决方案:

最理想简单的方案,只需要在签到记录表添加【签到日期】+【用户ID】的组合唯一索引,当并发的时候只有会一条可以添加成功,其他添加操作会因为唯一约束而失败

库存负数

  • 场景:

当==多用户==并发点击参与活动,如:抽奖活动,这个时候奖品只有一个库存了,理论上只有一个用户可以获得,但是并发的时候往往会出现他们都成功获得奖品,导致奖品多支出,加大了活动成本

  • 剖析:

有问题的逻辑流程一般是这样的:

中奖 --> 查询奖品库存 --> 有 --> 更新奖品库存 --> 添加中奖纪录 --> 告知中奖
中奖 --> 查询奖品库存 --> 无 --> 告知无中奖

假设抽奖活动,当前奖品A只有最后一个库存,然后用户A、B、C,同时参与活动同时中奖奖品都是A,这个时候查询商品库存是存在1个,就会进行更新库存,添加中奖纪录,然后就同时中奖了

  • 解决方案:

最理想根本就不需要用多做一个库存的SELECT奖品库存操作,只需要UPDATE 奖品库存-1 WHERE 奖品库存>=1,UPDATE成功后就说明是有库存的,然后再做后续操作,并发的时候只会有一个用户UPDATE成功

总结:

在开发业务接口的时候需要把==同用户==和==多用户==并发的场景考虑进去,这样就可以避免在并发的时候产生数据异常问题,导致成本多支出
可以使用下面的工具进行模拟并发测试:

  • Apache JMeter
  • Charles Advanced Repeat
  • Visual Studio 性能负载

 

数据采集技巧(番外)

普遍方案

  • 获取平台数据接口
  • 模拟接口请求
  • 数据解析过滤
  • 数据构造入库

使用selenium+Headless自动化测试框架

  • 开发
    • 推荐用python开发
      • python+selenium+headless
    • 控制请求频率,避免被平台限制请求
    • 使用代理IP,绕过请求IP限制
  • 优点
    • 无需模拟接口请求
      • 无法攻克数据接口模拟请求(加密签名等)
      • 接口版本频繁变化(需要重新调研)
    • 平台接口/页面版本变化,可以快速调整
      • 只需要调整采集数据所在的HTML元素的位置(class/id)
    • 可以用户操作/选中/点击/模拟登陆,等
      • 登陆失效后可以模拟登陆
      • 可以发送登陆二维码到钉钉进行扫码登录
  • 应用场景:
    • 竞品数据采集
    • 淘宝商品价格和自建商品库后台价格监控
    • 淘宝领券金额和自建商品库后台券金额监控
    • ... ...

反反爬虫

在做数据采集的过程中,有些平台会对重要数据的请求设置反爬虫策略,避免数据被竞品挖掘和利用,以及消耗大量资源拖垮服务器,
反爬虫和反反爬虫是技术之间的较量,这场没有硝烟的战争永不停息。(程序员何必为难程序员)

  •  

反爬虫可以分为以下两种

    • 服务端限制
      • 服务器端行请求限制,防止爬虫进行数据请求
    • 前端限制
      • 前端通过CSS和HTML标签进行干扰混淆关键数据,防止爬虫轻易获取数据
  • 破解服务端限制:
    • 模拟设置请求头
      • Referer
      • User-Agent
      • Authorization
      • .....
    • 破解签名
      • 签名规则
        • 在JS中找到签名规则
    • 控制请求平率
      • 调整请求时间,延迟请求
    • 代理IP
      • 切换请求的代理IP,自建/第三方
    • 登录限制
      • 带上登录成功后的Cookie/Authorization
    • 验证码限制
      • 识图,基于库/第三方
    • 投毒破解
      • 为了防止被投毒,需要对数据进行抽样校验
  • 破解前端限制:
    • font-face,自定义字体干扰
      • 找到ttf字体文件地址,然后下载下来,使用font解析模块包对ttf文件进行解析,与文字编码进行映射出中文
    • 伪元素隐藏式
      • 在CSS里找到xxxx::before {content: "中文";}对应的中文
    • backgroud-image移量
      • 通过背景图片的position位置偏移量和图片中的内容进行映射
    • html标签干扰
      • 过滤掉干扰混淆的HTML标签,或者只读取有效数据的HTML标签的内容

 

总结

作为后端开发者,不仅是完成需求功能开发,要结合业务场景进行合理设计,架构未来,对核心业务进行压测优化,以保证业务在并发下能够正常运行,同时要考虑安全问题以及防刷,防羊毛党,在编码上避免坏代码味道,面相抽象开发,适当使用设计模式,避免技术债

 

勿删,copyright占位
分享文章到微博
分享文章到朋友圈

上一篇:一周前 一月前 一年前的数据 这里主要用到了DATE_SUB mysql

下一篇:4G网络下国标GB28181推流平台EasyGBD可以注册到EasyGBS并获取视频流吗?

您可能感兴趣

  • Elasticsearch 升级 7.x 版本后,我感觉掉坑里了!

    摘要 最近想把我的mall项目升级下,支持SpringBoot 2.3.0 版本。升级过程中发现需要升级Elasticsearch到7.x版本,学习过我的mall项目的朋友应该知道, 我用的Elasticsearch是6.x版本,升级到7.x以后ElasticsearchTemplate都不让用了。本文记录了Elasticsearch从6.x升级到7.x所遇到的一些问题,给大家排排坑! 版本...

  • 前端实习生面试题分析(一)

    最近面试拿了很多公司的实习offer,只要是面试的都通过了。 接下来就分析下面试题,也能给自己一个提升吧,以便后续的面试更轻车熟路些,题目没什么顺序,想起什么写什么,还有我面试过程中的一些小套路。 估计要写好多,每天写几道题,而且有些经验性的东西也不容易写出来 这篇写的都是类似一些概念性的理论东西。 1.JS防抖和节流 先说为什么要做防抖和节流,针对一些会频繁触发的事件,像scroll、re...

  • 四连涨!海尔智家这波私有化还有多大想象空间?

    文|易牟 来源 | 螳螂财经(ID:TanglangFin) 四连涨!受海尔智家(600690.SH)私有化海尔电器(01169.HK)消息影响,海尔智家连续两个交易日涨停后,又接连两日上攻,股价盘中最高达22.54元,创下今年新高。 截至8月5日收盘,海尔智家主力资金净流入3.68亿元,连续5日净流入12.96亿元,后续上涨势头强劲。 毫无疑问,在投资者的眼中,不管是短期还是中长期,海尔智...

  • 爱了,3174页实战pdf集锦:Redis+多线程+Dubbo+JVM+kafka+MySQL

    写在前面 作为一名Java开发者,在现在这个信息化时代很快的时代,很少会有人停下脚步去思考以及去总结,忽略了很重要的一个步骤,没有反思和总结,只会用原来固有的想法去做事情,所以还是需要隔一段时间去总结。LZ今天总结了自己在平时会用到的一些: 01—Redis实战 在Redis诞生数年之后的今天,这个项目已经发生了显著的变化:我们现在拥有了一个更为健壮的系统,并且随着Redis 2.6的发布,...

  • Web前端常见跨域解决方案

    一、通过Jsonp跨域 二、document.domain+iframe 跨域 三、location.hash+iframe 跨域 四、window.name+iframe 跨域 五、postMessage 跨域 六、跨域共享资源 (CORS) 七、nginx 代理跨域 八、node js中间件代理跨域 九、WebSocket 协议跨域 1、通过Jsonp跨域: 通常为了减轻Web服务器的负...

  • 【计算机网络】第七章:网络安全

    【计算机网络】第七章:网络安全 目录 网络安全问题概述 1.1.计算机网络面临的安全性威胁 1.2.被动攻击和主动攻击 1.3.计算机网络通信安全的目标 1.4.恶意程序(rogue program) 1.5.计算机网络安全的内容 1.6.一般的数据加密模型 两类密码体制 一、对称密钥密码体制 1.1.对称密钥的缺点与优点 1.2.数据加密标准 DES 1.3.DES 的保密性 二、公钥密码...

  • Web端即时通讯实践干货:如何让WebSocket断网重连更快速?

    本文作者网易智慧企业web前端开发工程师马莹莹。为了提升内容质量,收录时有修订和改动。 1、引言 在一个完善的即时通讯IM应用中,WebSocket是极其关键的一环,它为基于Web的即时通讯应用提供了一种全双工的通信机制。但为了提升IM等实际应用场景下的消息即时性和可靠性,我们需要克服WebSocket及其底层依赖的TCP连接对于复杂网络情况下的不稳定性,即时通讯的开发者们通常都需要为其设计...

  • 怎样学习Python

    在了解了Python的优势、应用、就业前景以及其不可替代的价值之后,相信大家都会有学习python的冲动。那应该如何学习Python呢?买一本书、找一套视频、报名一个培训班?从理论上来讲,无论选择哪种学习方式,都可以掌握Python语言,但实际情况而言,总会因为某些原因导致自己的学习计划搁浅。所以在这里整理本片文章,希望本文能为大家的学习节约更多的时间成本。 1、找到自己学习Python的初...

华为云40多款云服务产品0元试用活动

免费套餐,马上领取!
CSDN

CSDN

中国开发者社区CSDN (Chinese Software Developer Network) 创立于1999年,致力为中国开发者提供知识传播、在线学习、职业发展等全生命周期服务。