深圳幻海软件技术有限公司 欢迎您!

  • 自定义开发限流组件 之 场景需求分析

    限流,通常讲就是限制流量,也有很多其他的说法,比如:限频、疲劳度控制等。原文链接:自定义开发限流组件之场景需求分析-一只小Coder最近遇到一个需求,系统A作为一个专门推送消息给客户的消息中心系统,对于每个客户是否能接受消息,能接受多少消息,接收消息的速度,能接受哪些消息等都要进行控制,这也就引入了

  • 面试官:限流算法有哪些?

    限流的实现算法有很多,但常见的限流算法有三种:计数器算法、漏桶算法和令牌桶算法。1、计数器算法计数器算法是在一定的时间间隔里,记录请求次数,当请求次数超过该时间限制时,就把计数器清零,然后重新计算。当请求次数超过间隔内的最大次数时,拒绝访问。计数器算法的实现比较简单,但存在“突刺现象”。突刺现象是指

  • 大量新老项目接入,服务限流如何排除差异快速落地?

    一、背景1、场景某一天有一个项目服务突然出现异常,我们定位到的原因是有大量的突发流量进来,那么我们会先采取被动的临时手段去处理当前故障,接着上线Nginx的限流功能进行快速止损,防止二次故障。但是Nginx的限流功能是比较粗糙的,所以我们有一个更好的长期措施,即项目接入限流功能,并实现按维度进行精细

  • 如果你是双十一技术负责人,你要怎么准备?

    大家好,我是李哥。进阿里以来一直听说一句话:“没有经过双11峰值验证过的技术都是玩具”。虽然有些夸张,但是不可否认的是,一年一度的双11,是技术最好的孵化器,也是技术同学最向往的阅兵场。我很荣幸,担任今年年中大促的技术一号位,也就是技术负责人。今天就来跟大家聊一聊我们作为一名技术在大促中要去做哪些技

  • Redis 做接口限流,一个注解的事!

    Redis除了做缓存,还能干很多很多事情:分布式锁、限流、处理请求接口幂等性。。。太多太多了~今天想和小伙伴们聊聊用Redis处理接口限流,这也是最近的TienChin项目涉及到这个知识点了,我就拎出来和大家聊聊这个话题。1.准备工作首先我们创建一个SpringBoot工程,引入Web和Redis依

  • 消息队列堆积太多,下游处理不过来怎么办呢?

    作为后端程序员日常工作中难免会遇到要跟消息队列打交道的时候,而且在当下微服务的场景下,很多服务的性能不是我们自己能控制的。这不阿粉最近就遇到了一个场景,由于上游服务流量增加,发送到消息队列的消息增多,阿粉在处理消息的时候需要依赖下游的一个服务,可是谁想到下游的服务效率太差,消息太多处理不过来,CPU

  • 聊聊高可用的 11 个关键技巧

    大家好,我是Tom哥大型互联网架构设计,讲究一个四件套组合拳玩法,高并发、高性能、高可用、高扩展。如果能掌握这四个方面,应付大厂面试以及日常工作中的架构方案设计基本不是什么难题。今天,Tom哥就带大家学习下高可用都有哪些设计技巧?一、系统拆分有句古话"牵一发而动全身"。面对一个庞然大物,如果没有一个

  • 五种限流算法,七种限流方式,挡住突发流量?

    最近几年,随着微服务的流行,服务和服务之间的依赖越来越强,调用关系越来越复杂,服务和服务之间的稳定性越来越重要。在遇到突发的请求量激增,恶意的用户访问,亦或请求频率过高给下游服务带来较大压力时,我们常常需要通过缓存、限流、熔断降级、负载均衡等多种方式保证服务的稳定性。其中限流是不可或缺的一环,这篇文

  • 微服务和API网关限流熔断实现关键逻辑思路

      今天准备谈下微服务架构和API网关中的限流熔断,当前可以看到对于SpringCloud框架本身也提供了Hystrix,主流的开源API网关产品类似Kong网关本身也包括了限流熔断能力。当然也有完全较为独立的限流熔断开源实现,比如阿里的Sentinel即是我们经常会用到的限流熔

  • RPC框架编写实践-RPC常见限流方法的实现

    前记在微服务中,虽然服务间的调用都是可信的,但是服务端也需要堤防一些流量,防止被意外的流量击垮,而通过限流可以防止问题的发生。此外,使用不同的限流规则还能根据系统间不同服务的请求进行限制,解决某个函数被频繁调用而拖垮整个系统的问题。NOTE:虽然本文是在编写RPC框架有感而发,但是也适用于常见的We

  • 不会高并发系统限流,肯定进不了大厂!

    开涛大神在博客中说过:在开发高并发系统时有三把利器用来保护系统:缓存、降级和限流。本文结合作者的一些经验介绍限流的相关概念、算法和常规的实现方式。图片来自Pexel缓存缓存比较好理解,在大型高并发系统中,如果没有缓存数据库将分分钟被爆,系统也会瞬间瘫痪。使用缓存不单单能够提升系统访问速度、提高并发访

  • 高并发系统中的限流应该如何做?

     开涛大神在博客中说过:在开发高并发系统时有三把利器用来保护系统:缓存、降级和限流。本文结合作者的一些经验介绍限流的相关概念、算法和常规的实现方式。缓存缓存比较好理解,在大型高并发系统中,如果没有缓存数据库将分分钟被爆,系统也会瞬间瘫痪。使用缓存不单单能够提升系统访问速度、提高并发访问量,

  • 慌了,面试居然被问到怎么做高并发系统的限流?

    缓存缓存比较好理解,在大型高并发系统中,如果没有缓存数据库将分分钟被爆,系统也会瞬间瘫痪。使用缓存不单单能够提升系统访问速度、提高并发访问量,也是保护数据库、保护系统的有效方式。大型网站一般主要是“读”,缓存的使用很容易被想到。在大型“写”系统中,缓存也常常扮演者非常重要的角色。比如累积一些数据批量

  • Java架构师:高并发下的流量控制

     这个时候如果不做任何保护措施,服务器就会承受很大的处理压力,请求量很高,服务器负载也很高,并且当请求超过服务器承载极限的时候,系统就会崩溃,导致所有人都不能访问。为了应用服务的高可用,一个常用的办法是对大流量的请求(秒杀/抢购)进行限流,拦截掉大部分请求,只允许一部分请求真正进入后端服务

  • 生活中随处可见的限流,在Java中又是怎么应用的呢?

     一、限流基础知识介绍为啥要限流,相信就不用我多说了。比如,我周末去饭店吃饭,但是人太多了,我只能去前台拿个号,等号码到我的时候才能进饭店吃饭。如果饭店没有限流怎么办?一到饭点,人都往里冲,而饭店又处理不了这么多人流,很容易就出事故(饭店塞满了人,无路可走。饭店的工作人员崩溃了,处理不过来

  • 分布式服务限流实战,已经为你排好坑了

    一、限流的作用由于API接口无法控制调用方的行为,因此当遇到瞬时请求量激增时,会导致接口占用过多服务器资源,使得其他请求响应速度降低或是超时,更有甚者可能导致服务器宕机。限流(Ratelimiting)指对应用服务的请求进行限制,例如某一接口的请求限制为100个每秒,对超过限制的请求则进行快速失败或

  • 搞懂限流算法这一篇就够了

     TL;DR(toolongdon'tread)限流算法:计数器、滑动窗口、漏桶、令牌桶。限流方案:Guava的RateLimiter、AlibabaSentinel大家都知道,对于高并发的业务场景,我们为了保障服务的稳定,经常会祭出三大利器:缓存、熔断降级和服务限流。服务限流作为一个核心

  • 分布式服务限流实战,已经为你排好坑了

    一、限流的作用由于API接口无法控制调用方的行为,因此当遇到瞬时请求量激增时,会导致接口占用过多服务器资源,使得其他请求响应速度降低或是超时,更有甚者可能导致服务器宕机。限流(Ratelimiting)指对应用服务的请求进行限制,例如某一接口的请求限制为100个每秒,对超过限制的请求则进行快速失败或

  • 大神总结:应对大流量的一些思路

    前言在实际项目中,曾经遭遇过线上5W+QPS的峰值,也在压测状态下经历过10W+QPS的大流量请求,主要就是自己对高并发流量控制的一点思考。应对大流量的一些思路1.首先,我们来说一下什么是大流量?大流量,我们很可能会冒出:TPS(每秒事务量),QPS(每秒请求量),1W+,5W+,10W+,100W

  • 系统练级攻略 | 京东架构师倾情解读

    引言系统搭建,小有小的灵活,大有大的难处,从小到大,系统该怎么打怪练级呢?首先:守住你的底线底线?单体实例的***处理量单体实例?泛指单个应用实例、单个缓存实例,单个存储实例底线从何而来?压测底线恒定不变?随着服务的架构变化随时调整如:一个实例【java实例+DB】的处理峰值为500/秒,在缓存化数

推荐阅读