公主号链接，欢迎关注：https://mp.weixin.qq.com/s/M5DST_SmrWdxIsrt4tBNzA

本文整理自 kubecon 2023 阿里云原生相关主题分享，原文可参考 https://developer.aliyun.com/article/1338251

• 前四分享偏细节和干货
• 后三分享偏务虚

《智能运维下的生产环境容器网络排障实践》

概述

端到端网络诊断数据链路工具，卖点是 “数据全” + "自动化 (导致排查问题快)"

内容

• 容器网络运维复杂原因
• 概念复杂：service / network-policy / ingress ...
• 实现复杂 (定位困难)：压测环境 -> 多处抓包 -> 定位丢包点 -> 分析配置 (iptables / kernel conf / vendor ...)
• 容器网络诊断
• 接入、连通性、深度网络异常 (下图，最终透出 abnormal metrics、log、event)

• 案例：部分请求超时
• 原因：节点 VPN 软件网段与下游 Pod 所在节点网段重叠，数据包路由到错误的网络设备
• 优势：自动诊断排查时间从传统定位手段 1h 减少到 5min

• 案例：upstream 偶发 499/504
• 原因：JVM GC 导致服务关闭连接过慢，upstream 连接队列溢出导致 ingress 处理时间久，客户端超时关闭
• 过程：安装 exporter 观察 TCP 连接数突涨，且同时 ListenDrops 和 ListenOverflow 均大于 0

《尚游网络基于 OpenKruise Game 游戏云原生化实践》

概述

针对有状态服务定制新的编排模型 GameServerSet，卖点是 "场景定制"

内容

• 背景：尚游 全面微服务后的痛点
• 响应延迟：有高响应延时要求的业务应该使用异步模型 -> 自研框架
• 有状态：抽象 Entity 作为有状态载体 (重点解决的问题)
• Entity = 小型 Service，可动态加载和销毁，并可在有状态 pod 中转移和负载均衡
• 多服务/集群：配置管理复杂

• OpenKruise：
• GameServerSet 在游戏场景下增强 StatefulSet：70% 字段相同 (迁移平滑)
• 优势
• 固定 IP：节约 proxy 成本 (以及对应的路由开销)
• 自动扩缩：StatefulSet 只能从大到小缩容，GameServerSet 可指定回收某个 pod (根据负载)

《基于 Fluid 加速 AIGC 模型推理服务的技术解析和优化》

概述

针对数据密集性应用 (eg. AIGC) 提供数据编排模型 Fluid，卖点是缓存管理 "自动化" (客户端配合优化)

内容

• 背景
• AIGC 模型推理最大问题：“数据” 高延迟+高带宽
• 预估：从对象存储中加载 Bloom-175B 模型 (约 340GB)，耗时约4300s
• 对象存储 I/O 吞吐 = 100MB/s~500MB/s，非容器化本地 SSD I/O 吞吐 = 1~2GB/s
• 可选项：cache，但仍然会带来 cache 管理的工程问题 (重点解决的问题)

• Fluid
• 概述：帮助用户管理和运维缓存、简化系统部署和访问、编排数据消费流程

• 优势
• 数据抽象：Dataset、Runtime、Data Operations 分别描述 数据源、缓存运行时、缓存操作

• 缓存弹性
• 带宽弹性：可用带宽正比于分布式缓存的节点规格和数量
• 回收策略：根据不同业务的特点定制不同的缓存副本弹性策略

• 异构兼容
• 数据编排：自动化

• 优化
• "多线程读" 和 "预读" 等手段优化客户端模型加载

《费芮互动使用 Higress 作为 Kubernetes Ingress 实现稳定性和性能提升》

概述

基于 Higress 解决 nginx 网关的若干痛点问题，卖点是 "纯系统" 的 扩展、稳定、性能 ...

内容

• 费芮互动：集成多平台/渠道实现用户串联
• 痛点：nginx ingress
• 稳定性
• ingress 共享 controller，单个配置变更会导致 reload 太频繁 (影响长链接)
• 连接过多，导致健康检查容易超时
• 性能：控制面/数据面共享 Pod，开启 ModSecurity 模块性能下降 10 倍 ...
• 功能：限流策略不够灵活
• 运维
• 独立节点部署：资源隔离；ExternalTrafficPolicy 设置为 Local 模式内部服务无法正常访问 Ingress
• daemon 部署：资源干扰；ExternalTrafficPolicy 设置为 Local 模式可减少一次 NAT

• 解法：Higress
• 稳定性
• 控制面/数据面 分离
• 配置变更后不需要 reload 数据面
• 性能
• 定时扩缩容
• 数据面直连后端 POD (不经过 NodePort 转发)：这块我理解的点在于网络定制
• 功能
• 集成 Sentinel 全局限流
• 自建认证鉴权服务
• 对接阿里云安全产品
• ...
• 运维

• 开源
• 不和 K8S 生态完全绑定，但同时满足 高集成、标准化、易扩展、热更新 等各种能力

《基于 eBPF 构建下一代智能可观测系统》

本分享相对比较水，没有什么干货，下图分别是 eBPF 字节码示意图 和 “网络栈接收数据包" 的概览图

《Serverless 研发平台—极简上云体验》

同样没有什么干货，比较像介绍 SAE 的软文

• 云优势
• 效率：全链路栈
• 降本：弹性；多类型业务整合利用率
• 稳定：容灾
• serverless 应用 (生态)
• 流量托管：南北 (多租路由)、东西 (注册中心)
• 弹性伸缩
• 数据库：支持对接 自建、RDS
• 文件存储：对接阿里云 NAS、OSS ...
• 监控：ARMS ...
• 日志：推荐 Kafak / SLS，不推荐本地
• ......

《Apache RocketMQ 5.0 的 Serverless 化之路》

同样没有什么干货，重点介绍 RocketMQ “存算分离” 支持云原生化

• 存算分离
• 轻量级 SDK
• 无状态代理层
• 无主化的存储节点 Broker
• 云原生基础设施