运维开发这个岗位与普通的业务开发不同，与日常的运维工作也不同。要求兼顾开发与运维两种能力。既要掌握不弱于业务开发的开发技术；又要负责SRE同学日常的运维能力；上线之前，还要像QA同学一样，对自己的服务进行测试和分级变更。) x/ a"
C7 N1 c( S
多种能力的交叉，造就不一样的视角：这群人给自己起了一个很简约的名字：DevOps。
按百度百科解释：DevOps是开发、技术运营和质量保障三者的交集。在我看来，DevOps其实只是一种方法论，从这种综合的视角出发，包含一些基本原则和实践方法，仅此而已。8 L( @: |' }, p% h6 }: i. D- p
: _. ^- {, l9 d3 e: _5 }
7 D$ D8 v" j$ S( F4 m9 B
DevOps从架构、开发、测试、发布、运维、变更整个流程来考量，从这种综合的视角出发，能将部门之间的沟通隔阂消灭于无形。会给我们公司和项目注入新的活力。
DevOps这个概念，本文暂不做讨论，本文内容只针对运维领域【自动化平台开发】的工作，进行探讨。
2 C; P4 e/ w8 O$ K D$ k; p+ _" l
* @/J4 q I. A, j
) E1 \% a" J' E3前言
运维开发的工作，所需能力的复杂，工作性质的交叉，自然会导致很多同学在其中会有些困扰。5 F7 O4 h' |" @' K( c
* I( g! e# Z$ `6 n/ H
很多刚毕业的小同学，接到运维开发的offer的时候，很可能是一头雾水：“运维？开发？到底是运维还是开发？”
有很多从业多年的同学，拼命的追求技术与对底层的探索，却忽略了产品层面的思考。; X2 A% e0 v, q/ O/ b
% K& E' [2 E4 D* s- \
也有很多整天忙忙碌碌的同学，在业务方的各种零碎的需求中，修修改改，消耗了大多数的时间，最终平台却变得千疮百孔。5 c: w' L0 A: M
, B1 s0 e6 N% A% D% q
本文，将我关于这些问题的思考分享给大家。
什么样的平台，是好的运维平台？$ Q( v6 U( J1 U$ ^5 k+ s* o- K# P3 ?) F
既然我们是在做平台，那我们要了解的第一点，就是好的运维平台，是什么样子的。如果让我们来从头设计一个平台，我们应该如何去考量？
: F( V7 G) W: n2 G+ Y8 S& I
效率 & 成本的均衡
运维平台，是服务于运维的。对运维来说，除了稳定性之外，最重要的，无非就是效率与成本。如果我们的平台，可以用更少量的时间或资源成本，来提高更多的效率，那就是一个非常成功的平台了。: Y5 g4 r& x9 A) F5 X: q
至于如何量化比较，就因系统而异了。 u& r7 G' Y- {5 w( n2 |4 q& v# y
/ E: z( Q4 y7 T
体验 & 人性化
为什么我要把体验放在第二位，因为我们好多的运维开发工程师，在开发的过程中，太多的去注重系统的稳定性和性能了。完全不把体验放在眼里。+ @" A7 J- v7 l$ D
我想说的是，有时候，如果不关注用户体验，我们做了再好的功能，没有人用，那这个功能意义何在？用户价值与用户体验在某些情况下，是会画等号的。- Q) _: `: b% a( U/ _) b# r
优秀的系统架构
在业界，无论是运维系统也好，业务系统也好，优秀系统的架构都是大同小异的：6 I6 D. W7 b G0 {5 i
稳定性：负载均衡、多活等。& N9 q; K) n! I( |9 q+ E
扩展性：每次增加功能，可以很小的开发成本实现。而不是每次都要重构。5 [. O, u. C8 x. _& P. z& \+ {" ^7 D
伸缩性：没有核心的单点，大部分性能瓶颈，都可以通过横向扩展来解决。2 X! e" F- c, h }
自我保护：把可能会导致性能瓶颈的点都拆解开，用队列、限流等手段消除流量突增的高峰带来的危害，保护自身。0 W+ ^* v$ Q: _1 I. w3 p
1 H2 K' R3 M$ A5 f4 c q
安全性：敏感服务加入权限与认证，web服务避免常见的漏洞如SQL注入、XSS、csrf等。做好操作记录方便后续审计。尽量不要出现短板。* b! n* e1 [1 K# c' h# D
如何运维自己开发的平台？
运维开发在大多数时候，要负责运维自己开发出来的系统，俗称吃自己的狗粮。或者很多人跳槽之后，第一件事情，也是从运维别人的系统开始的。那我们如何运维好一个平台呢？/ w/ J) |( o! ^1 p' c! R" e
运维与开发的工作，思路其实不尽相同。虽然都是基于稳定性来考量，但可能要想的更多、更广，任何有可能影响到我们业务的稳定性的因素，都要考虑在内。5 h3 E, I$ \+ S* j$ t; Z
用我目前总监的一句话来讲，就是：我们运维同学与开发同学，最大的不同点，就是稳定性的意识。
! p# O0 q& V/ i8 K
' [. Z4 L' O' a
架构上的稳定性：这个其实更多的是比如多活、负载均衡、流量调度、硬件冗余之类的考量。服务在实例挂掉的时候，如何不影响稳定性；专线断开的时候，如何仍然正常的提供服务等等。
0 c% a- g: V) Y: S
快速地发现问题：无论我们的架构多么完善，也很难做到尽善尽美。那么在一些需要人为介入处理的故障中，快速地发现异常，能直接降低服务的不可用时常。因此，对于一般的服务，将报警配置的更完善，是我们能快速定位异常的第一步。& }: O9 \: k. m( ]
& E8 U. M- A! g5 l
还有，对于监控系统，自身的故障，不能通过自身的监控来发现，最好还有一套独立的自监控。
应急预案&演练：在梳理一个服务的运维工作的时候，其实我们能很明确的感知到，某个地方出问题需要人力介入。而除变更之外的一般的故障，我们都是可预见的。而一旦真的出现这种问题，如果我们没有准备，即使知道如何去做，也可能会由于手忙脚乱而出错。
; d2 V) B4 e+ _) X
因此，设定一些可能发生情况的应急预案，定时演练，是一个可以在故障时快速恢复服务的手段。
自我保护：一般的系统，都有上游，如何保证上游的数据异常对自身产生影响，也是很重要的一点。总结起来，总共有三类：过载保护、脏数据的保护、变更保护。
过载保护：上游流量太大，导致自身服务不堪负重。这种情况要根据场景不同，考虑加入消息队列，或者限流。1 \$ x& G& @# Z" ?+ Q( b
. F# h% R3 Q* U
脏数据保护：上游来的数据，是否应该完全信任？是否有脏数据会来影响我内部数据的准确性？比如安全扫描的流量，很大程度上就会对很多系统产生脏数据。这种最好有过滤的规则的配置，能摘除这部分流量。) ^* L# _1 b0 \
上游变更保护：上游的变更，需要及时知晓和跟进。如果上游不够规范，很可能会修改接口或者数据格式。即使上游规范，也要跟进上游变更容易造成的影响，人为确认没有问题。, c4 v- z' T( l; {
0 d' f# {2 Y! ]
容量规划：随着系统负载的升高，系统的服务能力并不是线性下降的。《SRE: Google运维解密》说过：当负载到达临界线的时候，一个逐渐变慢的系统最终会停止一切服务。因此，要在系统瓶颈到来之前，预估未来一段时间内服务的量级，在量级到来之前，做好应对措施。
1 q6 h' u8 _7 q* _! U
笔者公司目前有一个topic，就是全链路压测。运维团队与所有业务团队一起建设，压测常态化，每时每刻对系统全链路各个环节的瓶颈都了如指掌。其实也是在做这件事情。' k8 v1 @# w1 O: t V$ g
变更管理：“SRE的经验告诉我们，大概70%的生产事故都是由某种部署的变更而触发”。因此要管理好我们的变更的机制：
7 O/ G7 {" n {: u
采用分级发布机制：先pre、再小流量、再中流量、再全量。. s3 L/
V% r% `# l! p: j
1.制定全面CheckList：保证变更部分所有功能都有测试可以覆盖，能快速发现问题。第一时间回滚。
2.出现问题，先回滚，再定位：这个不用多说，先止损，再慢慢查问题。. y7 x3 c S N" p
|4 p+ k" A/ I0 ^2 m f
除了开发与运维，我们还要做什么？
运维开发的定位，注定要比业务开发承担更多的责任。因为这群人除了是自己的RD，还要自己做自己的PM、OP、QA。
1 A2 I- y7 p" s: j7 e- X* i
因此，我们要考量的，还有产品和需求层面的东西。
需求管理1 |" H9 r D$ `7 B7 }# t/ x
作为开发，尤其是没有正经PM的开发。管理好需求，可以让我们把精力放在最重要的地方，解放我们的精力、提高产出。7 f1 p# Y9 ~: ?2 Y# L1 r
! t }5 X U* k% ^2 e S! b
流程闭环：从用户每次提一个需求开始，一直到这个需求跟进结束，或者需求被讨论后打回，都要有一个详细的流程管理工具，笔者公司用的是jira。有了这个工具，就可以很好的看到需求的状态，便于跟进和统计，真正解放我们的笔记本。3 |. p8 J. _% c4 \4 U
把控好优先级：根据项目的定位，来划分需求的优先级。
+ `3 V1 _8 Q! E* u$ ?. O
比如，对于一个运维平台项目，一般来讲用户比较固定，针对的是一群高玩SRE，那优先级考量是：稳定性 > 性能 > 功能 > 体验。
对于优先级的考量，要经常与自己的上级沟通。由于观点和视野的不同，个人考虑的优先级会与小组或者部门的优先级有所偏离，此时与上级及时的沟通，可以将个人的目标与团队的目标对齐，争取产出最大化。: I: p* Y: E! N5 {
产品视角 & 抽象能力：我们管理好了需求，确认好了优先级，是不是按照我们的优先级埋头苦干就行了呢？答案当然是否定的。; u o- g0 A! J, \, n/ [& Q
视角、见解不同的用户们提出一堆细碎的需求，如果我们从头来实现一遍，并不能真正让这些用户满意，却只会让系统越来越烂。
笔者之前就经手维护过这样的系统，勤劳的工程师兢兢业业，满足了一个又一个的需求，各种各样的高级功能。后来，却由于系统过于复杂，导致最基本、最常用的功能都要找半天。最终不得不重构。
- x! e9 E- n0 b9 ~ B; s
因此，去深度思考用户真正需要的是什么东西，而不是被业务推着走。将用户细碎的需求，真正抽象成平台要建设的一个一个的功能。
2 a1 K0 ~/ z: r- `
经常思考一下：用户虽然提了这个需求，但是他真正的痛点在哪里；多个类似需求之间会不会有什么共通点；是否可以抽象出一个公用的模型，用一个功能来满足多个需求。: O2 Y5 [: Y( Q
量化, Y) O* E* ~/ S4 w+ H
If You Can’t Measure It, You Can’t Improve It，量化是优化的前提。/ |# N& ]5 q! I7 |% y1 V
; F% w; O5 ]( ]4 d. E* X
量化有很多方面，比如说量级、延迟、成本，都可以量化。' T" z; N" l9 l. R. [% E
7 T' C, C+ m+ V w2 U
把所有的点量化完之后，我们做事情就不会蒙着头乱撞，所做的事情、所维护的服务，也不再是一个黑盒。我们可以对它的上下游关系、自身的稳定性作出宏观、统筹的分析。4 ~) D5 K, C4 x/ x: k( o
进一步的压测及SLA，均要依赖量化。
1 j. T7 m& C6 f7 @) r( X: F, u9 k
制定SLA
简言之，SLA就是，在一定的限制条件下，我们服务可以保证的质量。
SLA，是服务的维护者完全的了解了自己的系统，对系统的瓶颈有了深刻的理解之后，所给出的服务质量的保证。同时也是我们服务自身能力的一种说明。
一个系统，性能再好，也总会有瓶颈。把瓶颈和风险，让用户知晓，是我们的义务。
7 y9 Y* M* `( E& ~
对服务的维护者来说，在提供服务之时，约定好服务的SLA，既能从一定程度上规范使用者的行为，也能在出现问题的时候，保护自己。
除了做这些事情，我们还要想什么？
制定规范，并让规范在平台落地: l% C- v1 V& ~! m% W* z
规范的制定是一个比较宏观的事情，一般情况是由稳定性负责部门向全公司整体给出的建议。约束的可能是全公司的变更的规则、以及平台的使用方式等。* Z/ t& ?4 D/ c: @
制定规范的方面，此处就不做详述了，大家可以参考我目前经理的一篇很有指导意义的文章：
规范的落地，不能仅仅依靠各方业务的自觉性，也要在平台做好限制与引导。
我们做平台，最终产出的仍然应该是 业务的价值。比如效率的提高、成本的降低、稳定性的提高等。规则在平台的落地，可以产生直接的业务价值。
具体的实施方式可以考虑限制和引导两种手段。
限制：上线窗口的规范，非上线窗口必须走紧急流程由部门一级管理者审批；监控单台机器上报指标数的quota，都是使用的限制的手段。! X2 M- A, }1 r! e1 F1 F# ?
引导：通过一些方式，让用户自觉的依照我们的规则来执行。可以使用奖励、通报的一些方式。比如笔者公司的 变更信用分、监控健康分都是此类手段。; A( G( ^% m% J; [, D
# H3 W& y6 B2 Z" m
协调开发与答疑: a; h) P# N; h
运维开发的同学们，除了要做自己的PM和QA之外，有趣的是，还要担任自己的客服。
日常工作中，经典的答疑主要分为两类：使用方式、对平台的质疑。( w* N. Z8 a/ m
/ q* s) a9 v( x, g: N6 n5 x
使用方式的日常咨询，首先可以完善用户手册，把所有的使用方式和常见Q&A都写好。其次可以考虑机器人答疑，目前笔者负责的系统都接入了机器人自动答疑，把一些常见的问题以及文档都加入到知识库里，基本问题都可以解答出来。" h7 k- u! w8 P5 y# B) ~
- z5 ]5 K- J7 M; i8 g
除了日常使用的答疑之外，也会有很多的“高玩”来challenge我们的系统。这些人基本分为两类，一类是对运维平台有深度思考的人，chanllenge的同时会带来很多建设性的意见和建议；另一类就是单纯的小白用户，对系统思考不太深入，喜欢无脑chanllenge，我们也要同时思考如何与这类用户说明，提高小白用户的体验。8 i! y+ {. X% A/ Q
' C1 V* i) {: h( X
因此，给出服务的SLA，做好服务的自监控，将所有内部状态通过自监控暴露给开发者，而不是让自己的服务变成一个黑盒。是我们作为DevOps的基本素质。
. p( H) m1 y8 N5 q3 `6 R6 b& x4 F; I
后记$ J. V: d. u4 e9 m
' o j' O* |2 \& G
时光荏苒，倏忽之间，已入行五年。从一个小小的实习生，成长到现在勉强可以独当一面。( Q) b' d& F [- X3 N, N
五年来，一直在自动化运维平台开发领域耕耘。从刚开始重构服务树、权限系统模型、堡垒机登录；到后来的流量调度、监控系统报警与存储的深度建设。有很多个人的感悟与成长。
4 D+ { A1 L( }# j: ?( u
梳理了一下，分享给大家。
最后附上笔者思考本文时的脑图。 L
