炼数成金 门户 大数据 Devops 查看内容

从实践中长出的 DevOps 大树

2017-5-22 17:26| 发布者: 炼数成金_小数| 查看: 14563| 评论: 0|原作者: 龙井|来自: 高效运维

摘要: 无论你是研发、测试还是运维,都建议你从持续集成开始,按照《持续集成:软件质量改进和风险降低之道》一书的描述,持续集成要包括版本控制、自动化构建、代码质量、自动化测试等等。版本化一切是 DevOps 提倡的,包 ...

管理 工具 测试 自动化 运维 Devops

如果你还在犹豫要不要实践 DevOps,建议出门右转去看看 Puppetlab 发布的历年 State of DevOps Report。

DevOps 的理解千千万,见仁见智,核心理念都是希望提升效率和质量。重点想写一写如果不是完全自上而下的推 DevOps,我们可以怎么玩儿?

开门见山:从实践入手,配合工具的使用,以解决具体的问题为出发点。由实践的组合使用,倒推流程与组织文化的升级。


如图是我整理的 DevOps 涉及改进的领域:组织+文化=>流程与方法=>实践=>工具。每个领域都可以改进,都有很多地方需要我们改进,我的选择是从DevOps Practice 作为切入点。

很多团队都会遇到这个问题:DevOps 所倡导的理念、文化、实践都挺好的,但是不知道应该怎么入手,总觉得这么系统化的方法论和体系只能从上到下的推进。造成大家困惑的原因有以下几点:

DevOps 关注的领域实在太多,我们的问题也太多,不好下手
大家对 DevOps 的理解千差万别(DevOps Master 认证可以帮你系统化理解DevOps)
在组织或者团队内部贸然引入 DevOps 面临的阻力和风险很大,需要在短期内有明显的效果来背书
最容易也最体现效果的是从(较佳)实践入手,每个实践都是可以单独应用的,为了解决某个具体的问题,使用成本低,很多时候在团队内即可完成,比如自动化部署,测试团队、运维团队都能自己单独做。

1、DevOps实践
无论你是研发、测试还是运维,都建议你从持续集成开始,按照《持续集成:软件质量改进和风险降低之道》一书的描述,持续集成要包括版本控制、自动化构建、代码质量、自动化测试等等。

但是大多数时候,我们都将持续集成和自动化测试分开说,大多数时候,这两个实践属于不同的部门。有一句忠告:“没有持续集成和自动化测试,敏捷就是灾难。”

1.1 版本控制
版本化一切是 DevOps 提倡的,包括源代码、依赖、制品配置、环境配置、应用配置、数据配置等等。版本控制将团队的协作拉到了同一水平线。

版本控制不限于使用Git\Subversion的范畴
版本控制不仅仅是将代码存储到版本库,分支策略直接影响团队文化和交付方式
关于需求等文档的,传统的情况下都是以二进制的方式存储到版本控制系统中。使用 Confluence 管理需求版本也是不错的选择,另外,如果是技术文档,强烈推荐使用Markdown(互联网之子的杰作)管理文档,Gitlab等系统都是可以直接在线阅读Markdown的。别问为什么,因为有逼格。

强烈反馈将依赖的二进制文件放到版本控制系统中(Gitlab、Github都提供大文件存储方案)
制品文件可以采用 Nexus 和 Artifactory 或者是FTP来管理,但是需要有SNAPSHOT, Staging, Release 的分层
Infrastructure as Code 是一个很好的实践
UCM(统一变更管理)依然是可以坚持的实践
特性开关往往和分支策略相辅相成,怕管乱了还是不要用

1.2 自动化构建
标准化是自动化的前提,首先要做到将代码结构标准,类似 Maven 提倡的CoC(Convention Over Configuration)

另外,不建议某几个人写依赖和编译脚本,一定要让工程师自己动手

自动化构建的目标是编译过程完全自动化,不能存在工程师手动出版本包,出补丁用于发布的情况。

注:构建本身涵盖编译、代码扫描、单元测试等,此处理解为编译即可。

1.3 自动化测试
首先需要了解测试金字塔
自动化测试需要专业的测试团队去推进,相信很多团队都在这么做,但是本着谁写的代码谁测试的原则,工程师要尽量写单元测试,对单元测试的覆盖率提升应该作为团队的整体目标。

1.4 代码扫描
代码扫描(静态和动态)关注的是代码质量,代码的质量直接影响产品的质量。

首先需要了解技术债务,“出来混迟早都是要还的”,这句话要谨记,携程 CTO 叶亚明在总结“合格 CTO 的六要素”时,第1条是技术问题的解决能力,第2条就是具备强烈的“还债”意识。

其次需要了解代码七宗罪:不均匀分布的复杂性、重复代码、不合适的注释、违反代码规范、缺乏单元测试、缺陷和潜在的缺陷
代码扫描是度量技术债务的有效方式,代码扫描的结果也应该作为 Code Review 的科学依据。

管理技术债务的一般步骤:
定义代码质量标准(需要团队达成一致,签字画押都不为过)

可视化技术债务(度量)
偿还技术债务(每个迭代都可以安排少量任务偿还技术债务,相信我,没有所谓的相对空闲的迭代,互联网时代,怎么可能有工作做完的时候呢,所以要在每个迭代尽量偿还技术债务)

设置质量门(债务只许少不许多)
如果你有兴趣,可以将团队的代码质量先用SonarQube等工具量化出来,让大家看看,大家就知道问题的严重性了

1.5 Code Review
Code Review 属于开发技术领域,重点强调:Code Review 一定要做,小批量的做,不要一个月,几个月来一次代码审查(强烈鄙视审查这个词)会议。Code Review是代码共享文化和团队成员相互学习成长的重要实践。代码时团队的,需要大家一起Review,帮助改进,共同学习。

1.6 自动化部署
关于自动化,我的理解是复杂的事务和重复的事务都应该自动化。部署属于既复杂又重复的工作,面对复杂的分布式架构,手工显然不靠谱。

采用工具自动化部署过程
将测试环境的部署工作开放给测试团队
采用 Infrastructure as Code、虚拟化技术、容器化技术来定义部署环境
采用全量部署
金丝雀发布、蓝绿部署

1.7 持续反馈
持续地将自动化构建、代码扫描、Code Review、自动化测试、自动化部署纳入到持续交付流水线,持续地做,甚至每次提交都进行构建、扫描、测试、部署。提交即构建,Merge 即构建,提交即部署,这写对自动化能力考验很高,慢慢来。

但是持续测试和持续部署不仅仅是将自动化持续的做。业界通常的理解,持续部署和持续交付是对等的,持续部署将每次提交都进行部署,持续交付是由业务决定部署内容。Etsy 就是持续部署模式,每个新入职的工程师,第一天就是要向生产环境推送一个变更。

此处重点是要给大家强调持续的理念。

1.8 自动化运维
在我们的理解中,DevOps 重点关注的领域:持续交付+技术运营。技术运营的实践很多(参考SRE)。持续交付和技术运营的有很多实践是重叠的。技术运营也关注发布工程、测试,但是角度不同。

对技术运营的实践尝试的不多,整理一些我了解的:

关于规范,可以参考老王之前共享的运维规范和开放运维联盟的《互联网应用运维标准框架》
监控(黑盒+白盒)
事故处理流程、事故分析与故障库
容量规划

此图中描述的 DevOps 是非常狭义的理解,不能视为做到这些就算 DevOps 。

除了这些在工程领域常见的实践,还有云原生应用(12-Factors、Serverless)、微服务、不可变基础设施、Feature Team、Kanban 等等。

实践大都需要工具来承载,关于工具选型,建议选择最熟悉的,可以参考 Xebialab 的 DevOps 工具周期表。

实践不仅仅局限于工程领域,大家可以参考 Gartner 的报告:



无论组织和文化多么虚幻,我都还是想强调,组织文化对 DevOps 至关重要。在尝试 DevOps 实践时别忘了关注文化

2、DevOps 组织文化
DevOps 的本质是文化,是要打造团队持续试验和学习的文化。DevOps 的理论基础是精益,精益的核心是消除浪费、创造价值。

“在信息丰富的世界里,稀缺的资源就是人类的注意力”(—Herbert Simon),如果我们规划、开发、测试、发布的软件产品或者服务没人用,没人喜欢,这才是较大的浪费。

DevOps 要教会我们的是如何让团队去持续地专注于创造更有价值的产品和服务给用户。

文化转变以信任为基础,从帮助他人开始。

不用刻意的去打造某种文化,只需要团队与团队之间,团队成员之间的相互信任,主动帮助他人,自然会形成DevOps的核心文化:Shared Responsibility (责任共担),在此基础上,自动化、内建质量、反馈的文化才有可能逐渐形成。

所以很多时候,我们强调 DevOps 反对责备,责备对团队的破坏性非常大。培养 Blameless 的文化时可以在事故处理实践中,事故分析报告不责备个人或团队错误,相互推卸责任。交付稳定的高价值的服务给用户是整个团队的责任。

2.1 公司内部松散的 DevOps 社区
关于在组织或团队内部培养 DevOps 文化,可以尝试组建内部松散的 DevOps 小组(圈子,社区)并和外部的 DevOps 社区形成联系。内部DevOps小组可以将跨职能,跨团队的同事都圈在一起,大家可以互相借鉴好的做法,互相帮助解决问题。

和外部 DevOps 社区的联系,比如邀请外部社区大牛加入内部圈子,大家相互成长。这样对引入外部的优秀理念和实践及工具,培养内部松散协作,互相帮助的文化是很有帮助的。

尤其是当你的所在的团队还有很多人不了解 DevOps 的时候,内部圈子作用明显。

2.2 The Satir Change Model
这是人们抗拒变革的曲线模型:1.初期阶段 2.抵抗阶段 3. 混乱阶段 4. 整合阶段  5. 新阶段。



任何的变革都会引发阻力,这是必然。我们不能因为大家都不做,不支持,就不做正确的事。我们做 DevOps 需要一点一点往前拱。

欢迎加入本站公开兴趣群
软件开发技术群
兴趣范围包括:Java,C/C++,Python,PHP,Ruby,shell等各种语言开发经验交流,各种框架使用,外包项目机会,学习、培训、跳槽等交流
QQ群:26931708

Hadoop源代码研究群
兴趣范围包括:Hadoop源代码解读,改进,优化,分布式系统场景定制,与Hadoop有关的各种开源项目,总之就是玩转Hadoop
QQ群:288410967 

鲜花

握手

雷人

路过

鸡蛋

相关阅读

最新评论

热门频道

  • 大数据
  • 商业智能
  • 量化投资
  • 科学探索
  • 创业

即将开课

热门文章

     

    GMT+8, 2019-12-6 04:53 , Processed in 0.210562 second(s), 24 queries .