Skip to main content

Command Palette

Search for a command to run...

Istio 限流的正确姿势

Updated
2 min read

这一部分的官方文档很落后,这一例子主要内容来自于我们团队,在各位大师的工作基础上,结合 Mixer 的一些相关内容,参考Bookinfo 中附带的新版本源代码,拼凑而成。

Istio 的限流功能和路由不同,关系到 Istio 的 Mixer 适配器模型,因此这里从这一模型的角度来进行限流方面的测试。

Handler

Mixer 使用的每个适配器都需要一些配置来进行操作。一般来说适配器需要一些内容,例如后端的 URL、认证信息、缓存选项等等。每个适配器使用一个 protobuf 消息来定义所需的配置数据。

这里使用的是 memquota Handler,memquota 是绑定在 Mixer 进程上的,没有持久化,无 HA 能力,因此并不适合生产使用;建议今后改用 redisquota(目前暂不可用)。

这个 Handler 顾名思义,是用来解决配额管理问题的。可以定义一组 memquota,设置缺省的配额以及相关的模板等。

apiVersion: config.istio.io/v1alpha2
kind: memquota
metadata:
  name: memquota-handler
spec:
  quotas:
    - name: tmpl-quota.quota.istio-workload # 引用模板名称 格式:[quota 模板].quota.[namespace]
      maxAmount: 5000 # 缺省限制
      validDuration: 10s # 计时窗口
      overrides: # 根据条件进行重载
      - dimensions:
          destination: php-server
          source: sleep
        maxAmount: 5
        validDuration: 10s

模板

前面的 memquota 中,有一个条目引用了一个模板。

一个请求到达 Mesh 中的服务时,一般会发生两次对 Mixer 的调用,一次是前置检查,一次是遥测报告。每一次这种调用,Mixer 都需要调用一个或更多的适配器。不同的适配器需要不同的数据块作为输入来进行处理。例如日志适配器需要日志输入,指标适配器需要指标输入,认证适配器需要凭据输入。适配器在请求时消费的数据就是由 Mixer 的 Template 来描述的。

apiVersion: config.istio.io/v1alpha2
kind: quota
metadata:
  name: tmpl-quota
spec:
  dimensions:
    source: source.labels["app"] | source.service | "unknown"
    sourceVersion: source.labels["version"] | "unknown"
    destination: destination.labels["app"] | destination.service | "unknown"
    destinationVersion: destination.labels["version"] | "unknown"

这一模板中,定义了 memquota 适配器所需要的 Dimension 数据。

规则

Rule 对象的任务相对比较简单:

他负责告诉 Mixer,哪个 Instance 应该在什么时候发送给哪个 Handler。

apiVersion: config.istio.io/v1alpha2
kind: rule
metadata:
  name: rule-quota
spec:
  actions:
  - handler: memquota-handler.memquota # 引用适配器名称,这里需要加上适配器类型
    instances:
    - tmpl-quota.quota # 引用 Quota 模板

QuotaSpec

这个对象用于对额度消费过程的行为进行定义:

apiVersion: config.istio.io/v1alpha2
kind: QuotaSpec
metadata:
  name: spec-request-count
spec:
  rules:
  - quotas:
    - charge: 5 # 每请求的消耗资源数量/倍数
      quota: "tmpl-quota"

QuotaSpecBinding

有了配额消费规格的定义之后,我们还需要把它绑定到具体的服务上去,这样才凑齐了最后一环。

apiVersion: config.istio.io/v1alpha2
kind: QuotaSpecBinding
metadata:
  name: request-count
spec:
  quotaSpecs:
  - name: spec-request-count # quotaspec 名称
    namespace: istio-workload # 必须
  services:
  - name: php-server

具体测试过程非常简单,分别启动一个名为 php-server 的服务,以及一个包含有 curl 等能够发起 http 访问的客户端服务,都使用 istio 进行注入之后,就可以进入控制台客户端 Pod,发起请求。例如:

for i in $(seq 6); do curl -s http://php-server/version.php ; done

会出现 RESOURCE_EXHAUSTED:Quota is exhausted 的信息,通过调整 QuotaSpeccharge 的值,会很容易的看到额度消费的效率产生的变化。

参考阅读

  1. Mixer 适配器模型:http://blog.fleeto.us/translation/mixer-adapter-model

More from this blog

龙虾恐慌:AIOps 又要改名了?

ChatGPT 开始,把 AI 拉近到普罗大众的面前,让无数人感受到 AI 的亲民魅力。而龙虾,则把大模型驱动的自动化能力,突然间变得水灵灵、活泼泼地走进千家万户。它不只是“风口上的猪”,而是风口本身。热度高到让 Mac mini 一度断货,不知道这在不在库克的预料之内。 每代人都有每代人的鸡蛋,春节期间,我就领了我的鸡蛋。翻出古老的 MacBook Air M1,充值各种大模型。当然了,这个工具

Mar 9, 20261 min read

再见 2025

我猜不少人以为这个号废了吧?并没有,只是今年变化有点大,一直有种抄起键盘,无从说起的感觉,所以一直偷懒到今天,2025 的最后一天。 今年是我的第四个本命年,去年末一期播客里,大内说本命年不是灾年,是变化年,有危也有机。可是讲真啊,只看到危,没看到机。 各种因缘际会,从鹅厂跳槽到前东家,已经接近四年,第一个合同期已经进入尾声。除了前两年还在云原生领域嗷嗷叫,后两年基本都是些鸡零狗碎的东西了,用老东家的术语说是——偏离主航道,可谓是前景暗淡了。 一旦确定要滚蛋,反倒心思轻松起来,每天骑着我的小红车...

Jan 5, 20261 min read

辅助编程?dora 说:我知道你很急可是请你别急

从 OpenGPT 把大模型的火烧旺了之后,这三年来,相信很多组织或摩拳擦掌、或躬身入局,希望借助聪明能干的大模型,或想偿还技术宅,或想降本增效,或想弯道超车。一时间,沉寂许久的 AIxx 又活过来了,LLM Ops、Vibe Coding、中医大模型、GPT 算命等等,全都老树发新芽,焕发了勃勃生机。那么视角拉回从业者最关注的饭碗相关的领域之一——AI 辅助开发,产生了什么触动,应该如何拥抱呢? DORA 的年度报告中给出了很有意思的结论——强者恒强。 执行摘要部分总结了几个有趣的点: 问题...

Oct 6, 20251 min read

[译]dora:ai 辅助软件开发状态报告

执行摘要 在 2025 年,科技领导者面临的核心问题已不再是“是否要采用 AI”,而是“如何实现其价值”。 DORA 的研究基于超过 100 小时的定性访谈和来自全球近 5,000 名技术专业人士的问卷调查。研究揭示了一个关键事实:AI 在软件开发中的主要角色是“放大器”。它会放大高效能组织的优势,也会凸显组织的缺陷。 关键结论:AI 是放大器 AI 投资的最大回报并非来自工具本身,而是来自组织底层系统的战略性建设: 高质量的内部平台 清晰的工作流 团队的协同能力 缺少这些基础,AI ...

Oct 2, 202514 min read

僭越了,有人在用 Rust 写 Kubernetes

一个新语言问世,最爱做的事情之一,就是重写存量软件了。 云原生喝酒 SIG 重点扶持项目——rk8s(https://github.com/rk8s-dev/rk8s) 也可以归在这个范畴里,只不过这个项目重写的东西比较大,是 Kubernetes。 从 2025 年 1 月第一个 Commit 开始,到现在有了 200 多次 Commit,十几万行代码。当然距离 Kubernetes 的几百万行代码还差得远——老马就是喜欢整这种大无畏项目。 另外该项目也是国内第一个脱离 Cargo 转向使用 ...

Sep 27, 20253 min read

【伪】架构师

342 posts