跳到主要内容

2 篇博文 含有标签「Git」

查看所有标签

DevOps 基础与文化

· 阅读需 8 分钟

由旧稿重新整理版本。DevOps 系列共 3 篇:本文是概念与文化;小企业DevOps方案笔记 是50~500 人企业主流方案;DevOps工具链选型对比笔记 是工具链横向选型参考。旧稿目录已清理,当前以本文为准。


1. DevOps 是什么​

1.1 定义​

DevOps 是 Development(开发)+ Operations(运维)的合并缩写,是一套文化、实践与工具的组合,目标是缩短系统变更从提交到上线的时间,同时保证质量与稳定性。

核心思想:

  • 打破开发与运维之间的「墙」
  • 把交付过程自动化、可重复
  • 用反馈回路持续改进
  • 把可靠性当成产品的一部分(而非事后靠运维救火)

1.2 不是什么​

  • ❌ 不是某种职位(「DevOps 工程师」)— DevOps 是文化与实践,单设一个职位意味着 DevOps 失败
  • ❌ 不是某个工具(Jenkins / Docker / K8s 都只是支撑)
  • ❌ 不是只搞 CI/CD(CI/CD 只是其中一环)
  • ❌ 不是运维工程师 + 几个脚本

1.3 一句话总结​

DevOps = 让交付从「靠人堆」变成「靠系统自动化」,把责任从运维单独背变成开发从始至终一起承担。


2. DevOps 的核心价值​

2.1 三大指标(Westrum 指标 / DORA)​

Google DORA 团队对软件交付效能的多年研究总结出 4 个指标:

指标EliteLow含义
部署频率(Deployment Frequency)按需(一天多次)几个月一次发布节奏
变更前置时间(Lead Time for Changes)< 1h> 1 month从 commit 到 production
变更失败率(Change Failure Rate)0~15%46~60%上线后回滚或修复的比例
故障恢复时间(MTTR)< 1h> 1 month出问题到恢复

Elite vs Low 的企业,运营表现有 30~50 倍差距(事故数、可用性、业务连续性)。

2.2 商业价值​

  • 更快交付:小步快跑,缩短 idea-to-prod 周期
  • 更高稳定性:自动化测试 + 灰度发布 + 快速回滚
  • 更低成本:减少救火 SLA、减少返工
  • 更高研发幸福感:开发者不再怕上线、值班更有方向
  • 组织敏捷:应对市场变化更快

3. CALMS 框架​

CALMS 是 Damon Edwards 提出的 DevOps 文化框架:

字母含义体现
Culture文化跨职能合作、无指责复盘、共享 oncall
Automation自动化CI/CD、IaC、测试自动化、监控告警自动化
Lean精益减少浪费(小批量、限制在制品 WIP)
Measurement度量DORA 指标、SLI/SLO、用户业务指标
Sharing共享共享库、Wiki、复盘文档、内部技术会议

文化先行(C),技术与工具是支撑(ALMS)。只买工具不改文化 → 工具用不起来。


4. DevOps 成熟度模型​

按阶段划分(0~5):

级别名称特征
L0手动时代手动部署、手动测试、FTP 推代码
L1脚本化Bash 脚本、cron、基础监控
L2CI/CDJenkins/GitHub Actions 自动化构建+测试
L3IaC + 可观测Terraform/Ansible;Prometheus + Grafana;ELK
L4GitOps + 服务网格 + SLOArgoCD/Flux;Istio;SLO 管理;灰度发布
L5自服务 IDP + AIOpsBackstage 内部开发者平台;自动扩缩容;AIOps 异常检测

小企业(50~500 技术人员)目标:稳定 L3,争取 L4。L5 是巨型企业的游戏。


5. DevOps vs SRE vs Platform Engineering​

近年来兴起的几个相邻概念容易混淆:

5.1 DevOps​

  • 范围:文化 + 工具 + 实践
  • 关注点:整个交付链路
  • 组织意义:跨职能合作
  • 负责人:人人(不是某个团队)

5.2 SRE(Site Reliability Engineering,源自 Google)​

  • 范围:生产环境的可靠性工程
  • 关注点:SLO/SLA、错误预算(Error Budget)、oncall、事后复盘(Postmortem)
  • 角色:SRE Engineer(实际岗位)
  • 经典指标:可用性 MTTR MTBF
  • 典型实践:
    • SLO 定义(99.9% 可用 = 每月允许 43 分钟宕机)
    • Error Budget 消耗 100% 后,冻结发布
    • Toil(手动工作)控制
  • 与 DevOps 的关系:SRE 是 DevOps 在「运营可靠性」方向的具体落地

5.3 Platform Engineering(平台工程,2022+ 兴起)​

  • 范围:搭建内部开发者平台(IDP)
  • 关注点:让开发者自助完成常见任务(新服务创建、CI 模板、部署、监控接入)
  • 代表工具:Backstage(Spotify 开源 IDP)
  • 与 DevOps 的关系:当 DevOps 文化成熟后,组织会自然演化出"平台团队"专门搭建 IDP
  • 与 SRE 关系:平台工程给开发者自助工具,SRE 确保生产可靠性

5.4 三者关系图​

┌──────────────────────────┐
│ DevOps(文化层) │
│ 跨职能协作 / 反馈 │
└──────────┬───────────────┘
│
┌────────────┴────────────┐
▼ ▼
┌──────────────────┐ ┌──────────────────────┐
│ SRE(可靠性层) │ │ Platform Eng(平台层)│
│ SLO / oncall / │ │ Backstage / IDP / │
│ postmortem │ │ 自服务化 │
└──────────────────┘ └──────────────────────┘

实际分工:DevOps 是思想,SRE 把「可靠性」做到极致,Platform Eng 把「自助化」做到极致。一个组织往往三者都有。


6. DevOps 与周边概念的关系​

6.1 Agile(敏捷)​

  • 关注需求与产品迭代(Scrum / Kanban)
  • DevOps 关注开发到上线的链路
  • 二者互补:Agile 解决「做正确的事」,DevOps 解决「正确地做事」

6.2 Lean(精益)​

  • 起源于丰田生产方式
  • DevOps 的"L"(Lean):减少浪费(WIP)、缩短反馈
  • 核心观点:构建质量(Build Quality In),而非事后检测

6.3 持续集成(CI)​

  • 频繁合并代码到主干,每次合并自动跑构建+测试
  • 目标:早发现集成问题
  • 是 DevOps 的"A"(Automation)层的一环

6.4 持续交付 / 持续部署(CD)​

  • Continuous Delivery:代码任何时候都可发布(人工决定何时发布)
  • Continuous Deployment:自动化通过所有测试后自动发布到生产
  • 与 CI 是同源概念

6.5 GitOps(详见 II_Jenkins_CICD实战笔记 / 小企业DevOps方案笔记)​

  • 以 Git 为单一真相源
  • 通过 PR/MR 改动生产环境
  • ArgoCD/Flux 是事实标准工具

7. 小企业(50~500 人)做 DevOps 的现实路径​

7.1 当前痛点​

  • 产品迭代快,部署频率赶不上
  • 服务一多,环境/版本混乱
  • 故障定位慢,SLA 压力大
  • 团队各自为政,没有标准化

7.2 落地顺序(按 ROI 由高到低)​

阶段 1(基础):
- Git 工作流规范化(trunk-based 或规范化的 GitFlow)
- CI 流水线(PR 触发自动测试 + 自动化单测)
- 基础监控(接入 APM、链路追踪)

阶段 2(演进):
- 镜像化所有服务 + K8s 容器化
- CD 流水线(自动推镜像、自动部署)
- IaC(Terraform 管理云资源)

阶段 3(治理):
- GitOps(ArgoCD + App-of-Apps)
- SLO 管理 + Error Budget 流程
- 安全门禁(Trivy、OPA、镜像签名)

阶段 4(平台化):
- Backstage IDP
- 内部共享库、模板化新服务
- AIOps、混沌工程、灰度发布

不要一上来就上服务网格 + IDP,从最痛点(部署慢 / 故障多)切入。

7.3 关键组织变化​

  • 运维团队转型:从「纯救火」变「平台建设 + SRE 兼 SRE 思路」
  • 开发承担 oncall:共同对生产负责
  • 建立 blameless postmortem 文化:复盘不追责,找系统问题
  • 共享指标:DORA 4 指标透明、考核按团队而非个人

8. 组织/团队模型​

8.1 反向康威定律​

康威定律:"系统结构反映组织沟通结构"。

DevOps 时代常反向:先决定系统/团队结构,反过来调整组织:

  • 微服务 = 小团队 + 全栈:每个服务由一个 5~9 人小队全权负责(含 oncall)
  • 平台团队:构建 CI/CD 模板、可观测性、镜像仓库
  • 产品团队:聚焦业务,平台能力由平台团队提供

8.2 经典模型​

模型来源适用
Spotify 模型Spotify大型、矩阵化、产品线多
Team TopologiesSkelton & Pais演化出 4 种团队类型:业务流、平台、赋能、复杂子系统
SRE 拓扑Google强 oncall 流程
Platform Engineering2022+ 兴起自服务化优先

Team Topologies 4 类:

  • Stream-aligned team:业务流团队(按业务价值流)
  • Platform team:提供 IDP
  • Enabling team:传帮带
  • Complicated-subsystem team:复杂专门系统(如 ML 平台)

9. 一句话总结​

  • DevOps = 文化(CALMS)+ 自动化 + 度量 + 共享
  • 目标:DORA 4 指标达到 Elite(部署频率高 / 前置时间短 / 变更失败率低 / MTTR 短)
  • 区分 DevOps / SRE / Platform Engineering:文化 / 可靠性 / 自服务
  • 小企业落地分阶段,从痛点切入(CI + 监控),再演进到 L3~L4(IaC + GitOps)

标签:#docker #kubernetes #jenkins #git

DevOps 工具链对比笔记

· 阅读需 8 分钟

来自 小企业DevOps方案笔记 的延伸:按领域横向对比 8 个细分赛道的开源与商业选型。


1. 代码托管(Source Code Management)​

工具类型简介适用
GitHub商业/SaaS + 自托管 EE最广泛的代码托管 + PR + Actions几乎全员
GitLab CE开源自托管"一体化平台"数据本地化、自托管
GitLab EE商业CE + 安全/合规等高级能力大企业、有预算
Gitea开源/轻量用 Go 写的迷你 GitHub资源受限、要轻量
Forgejo开源Gitea 的社区分叉同上、避免 Gitea 商业化
Bitbucket商业/SaaSAtlassian 生态已用 Jira 的团队
Codeberg开源/SaaS公益型 Forgejo个人/小团队
Sourcehut开源/SaaS无 JS、邮件驱动极简主义者

选型建议:

  • 主流 SaaS 团队 → GitHub
  • 自托管 / 数据本地化 → GitLab CE 或 Gitea
  • 阿里云/腾讯云生态 → CodeUp / TAPD
  • 已用 Jira → Bitbucket

2. CI(持续集成)​

工具类型简介适用
GitHub ActionsSaaS + 自托管 runner内置GitHub 生态
GitLab CI内置自托管 / SaaSGitLab 生态
Jenkins开源/Java最老牌、插件最多高度可定制
Drone开源/Go容器化、易上手中小项目
Woodpecker开源Drone 的社区分叉同上
Tekton开源/Cloud NativeK8s 原生、CIDRK8s 重度用户
CircleCISaaS老牌、性能好大 monorepo
BuildkiteSaaS + 自托管 agent灵活、CI as Code私有化
Argo Workflows开源K8s 原生工作流不只是 CI
TeamCity商业JetBrains 出品Kotlin/Java 团队

选型建议:

  • 已用 GitHub → GitHub Actions(小项目)
  • 已用 GitLab → GitLab CI
  • K8s 重度 + 复杂流水线 → Tekton / Argo Workflows
  • 复杂自定义 + 大量 plugin → Jenkins
  • 中小团队 + 简单 + 容器原生 → Drone / Woodpecker

3. CD(持续部署)​

工具类型简介适用
ArgoCD开源K8s GitOps 事实标准K8s 首选
Flux CD开源GitOps Toolkit,比 ArgoCD 轻同上
Spinnaker开源/Netflix 出品多云部署、复杂发布策略大型多云
Harness商业一站式 CD中大型
Codefresh商业K8s CDK8s 中型
Octopus Deploy商业传统应用部署.NET / 老系统
Flagger开源ArgoCD 配套、灰度发布K8s + Argo

选型建议:

  • 用 K8s → ArgoCD(最稳)
  • K8s + 需要轻量 → Flux
  • 多云 + 复杂发布 → Spinnaker
  • 商业、省心 → Harness

4. IaC(基础设施即代码)​

工具类型简介适用
Terraform商业(MPL)行业标准多云
OpenTofu开源Terraform 1.5+ 的开源分叉避免 HashiCorp 许可变更
Pulumi开源/商业用编程语言(TS/Go/Python)写 IaC程序员友好
Ansible开源配置管理 / 简单编排配置管理、轻 IaC
CloudFormation商业(AWS 专)AWS 原生AWS 单一云
ARM Template商业(Azure 专)Azure 原生Azure 单一云
CDK商业CloudFormation 的编程版本程序员
Crossplane开源K8s 原生管理云资源K8s 生态
Helm开源K8s 应用打包K8s 部署

选型建议:

  • 多云 → Terraform / OpenTofu
  • 单一云(AWS) → CloudFormation / CDK
  • 程序员团队 → Pulumi
  • 配置管理、运维自动化 → Ansible
  • K8s 应用 → Helm + Kustomize

5. 容器镜像与制品库(Artifacts)​

工具类型简介适用
Harbor开源/CNCF容器镜像 + 漏洞扫描 + 复制首选(见 Harbor笔记)
AWS ECR商业AWS 容器镜像AWS 单云
Azure ACR商业Azure 容器镜像Azure 单云
GCP Artifact Registry商业GCP 镜像GCP 单云
Docker HubSaaS公有公开镜像
Nexus Repository商业/OSS容器 + Maven + npm + PyPI 全能多语言
Artifactory商业最全商业重型
GitHub PackagesSaaS与 GitHub 集成GitHub 用户

选型建议:

  • 多语言、大企业 → Nexus Repository / Artifactory
  • 纯容器镜像 → Harbor
  • 单一云 → 用云厂商的(ECR/ACR)
  • GitHub 项目 → GitHub Container Registry

6. 可观测性(Observability)​

6.1 Metrics​

工具类型简介
Prometheus开源K8s 监控事实标准
VictoriaMetrics开源高性能 Prometheus 替代
Thanos开源Prometheus 长期存储
Cortex开源Prometheus 集群方案
InfluxDB开源时序数据库
DatadogSaaSSaaS 一体化
New RelicSaaS老牌 APM
DynatraceSaaS企业级自动化
Splunk ObservabilitySaaS来自 Splunk
CloudWatch商业AWS 原生
Azure Monitor商业Azure 原生

6.2 Logs​

工具类型简介
Loki开源Grafana 全家桶
ELK Stack开源经典(Elasticsearch + Logstash + Kibana)
OpenSearch开源ES 分叉(合规)
Grafana Enterprise Logs商业Grafana 商业版
Splunk商业商业重型
Datadog LogsSaaS商业

6.3 Traces​

工具类型简介
Jaeger开源CNCF 毕业
Tempo开源Grafana 出品
Zipkin开源老牌(Twitter)
OpenTelemetry开源/CNCF标准化采集 SDK
Datadog APMSaaS商业
New Relic APMSaaS商业

6.4 整合方案​

  • Grafana Stack(LGTM + Prometheus):最常见的自建
  • Datadog:一体化 SaaS
  • New Relic:一体化 SaaS
  • Dynatrace:企业级

选型建议:

  • 完全自建、Grafana + Loki + Tempo + Prometheus
  • 省心、大预算 → Datadog
  • 多云混合 → Dynatrace
  • Java 重 → New Relic

7. 告警(Alerting)​

工具类型简介
Alertmanager开源Prometheus 标配
Grafana Alerting开源Grafana 内置
Grafana OnCall开源/商业值班调度
PagerDutySaaS值班调度之王
OpsGenieSaaS现被 Atlassian 收,集成 Jira
钉钉 / 飞书 / 企微 机器人SaaS国内常用 webhook
Telegram / SlackSaaS国际常用
Pager开源老牌,PagerDuty 替代品

8. 安全(Security Toolchain)​

8.1 代码 SAST​

工具类型简介
CodeQL开源/商业GitHub 内置
Snyk Code商业多语言
SonarQube开源/商业自托管经典
Semgrep开源轻量规则引擎
Bandit开源Python 专用
gosec开源Go 专用
Checkov开源IaC 安全(Terraform)

8.2 镜像 / 容器​

工具类型简介
Trivy开源全能扫描器(见前文)
Snyk Container商业商业加固
Clair开源/CNCF静态分析
Anchore开源/商业深度合规
Docker ScoutSaaSDocker 官方

8.3 运行时​

工具类型简介
Falco开源/CNCF运行时安全(syscall)
Tracee开源eBPF 运行时安全
Tetragon开源Cilium 出品 eBPF
Aqua Security商业重型商业
Prisma Cloud商业Palo Alto

8.4 策略 / 合规​

工具类型简介
OPA开源策略引擎(Rego)
Gatekeeper开源OPA in K8s
Kyverno开源K8s 策略,YAML 友好
Conftest开源OPA CLI 测试
Falco Rules开源Falco 默认规则

8.5 密钥 / Secret​

工具类型简介
HashiCorp Vault开源业界标准
Sealed Secrets开源Bitnami 出品
External Secrets Operator开源集成云厂商 Secrets
AWS Secrets Manager商业AWS 集成
Azure Key Vault商业Azure 集成

8.6 依赖​

工具类型简介
DependabotSaaSGitHub 内置
Renovate开源自托管 / SaaS
Snyk Open Source商业含已知漏洞库
OWASP Dependency-Check开源Java/Node/.NET

选型建议:

  • 小企业最小集:Trivy + Renovate/Dependabot + Vault + Kyverno
  • 中型:+ Snyk + Falco + OPA

9. 服务网格(Service Mesh)​

工具类型数据面
Istio开源/EnvoyEnvoy(功能最强)
Linkerd开源/ConduitLinkerd-proxy(轻量)
Consul Connect商业/HashiCorpEnvoy
Cilium Service Mesh开源eBPF(内核)
Kuma开源Envoy
AWS App Mesh商业Envoy

选型建议:

  • 中小规模 → Linkerd(轻量) 或 Cilium(性能)
  • 大规模 + 复杂 → Istio
  • 单云 + 已用 ASM → AWS App Mesh

10. 多集群管理(Multi-Cluster Orchestration)​

工具类型简介
Rancher开源/商业见 IV_Rancher笔记
Cluster API开源/K8s sig声明式 K8s 集群生命周期
Clusterpedia开源跨集群查询
ArgoCD ApplicationSet开源ArgoCD 多集群部署
RafaySaaS/商业企业级
NirmataSaaS/商业企业级

11. 平台工程 / IDP​

工具类型简介
Backstage开源/CNCFSpotify 出品,事实标准
CompassSaaSAtlassian
PortSaaS商业
CortexSaaS商业
Roadmap.sh开源/Wiki简单

12. 混沌工程(Chaos Engineering)​

工具类型简介
Chaos Monkey开源/Netflix杀实例
Chaos Mesh开源/PingCAPK8s 混沌
LitmusChaos开源/CNCFK8s 混沌
GremlinSaaS商业
ChaosBlade开源/阿里国内通用

13. 选型速查(按主题一图一表)​

代码: GitHub / GitLab CE / Gitea
CI: GitHub Actions / GitLab CI / Tekton / Jenkins
CD: ArgoCD / Flux / Harness
IaC: Terraform / OpenTofu / Pulumi
镜像: Harbor / ECR / Nexus
日志: Loki / ELK
指标: Prometheus + Grafana
链路: Tempo / Jaeger / OpenTelemetry
告警: Alertmanager + PagerDuty / 飞书
镜像扫描:Trivy / Snyk
运行时:Falco / Tetragon
策略: Kyverno / OPA
密钥: Vault
Mesh: Linkerd / Istio / Cilium
多集群:Rancher / ClusterAPI
IDP: Backstage
混沌: Chaos Mesh / Litmus

14. 一句话总结​

  • 小企业:开源工具够用,重点在整合而非单一工具好坏
  • 17 个细分领域只是参考,实际企业只用到 5~8 个核心
  • 选型原则:
    1. 先用主流(Jenkins / ArgoCD / Trivy / Prometheus),少创新
    2. 自托管 vs SaaS 看团队规模与合规
    3. 工具要统一生态(如 Grafana 全家桶 / Datadog 一体化)
    4. 可替换性:每层解耦,避免绑死某家

标签:#git #docker #kubernetes #jenkins