运维平台

互联网技术

运维职责贯穿了产品的生命周期,需要借助自动化、智能化的平台帮助运维工程师以最低的成本和最快的速度完成面向用户的服务交付和服务质量保障。运维平台主要由运维平台研发工程师理解业务需求后开发,主要包括:机器管理、资源管理、网络管理、架构基础设施、部署平台、配置管理平台、数据管理平台、监控平台、容量管理、流量管理、故障管理、业务调度平台、工作流引擎、权限管理、运维元数据管理和运维统一门户。

运维平台概述
运维职责贯穿了产品的生命周期,需要借助自动化、智能化的平台帮助运维工程师以最低的成本和最快的速度完成面向用户的服务交付和服务质量保障。运维平台主要由运维平台研发工程师理解业务需求后开发。下面从产品的生命周期角度介绍运维工程师需要交互的运维平台。
产品发布前
产品发布前运维工程师需要产品业务熟悉、产品架构设计评审、产品所需资源评估和申请。评审产品架构时,产品研发人员通过运维准入平台进行运维准入评审,例如SQL语句评审,程序发布包规范评审,程序监控方案评审等。
产品资源评估和申请时使用机器管理平台或者资源管理平台申请物理机或者虚拟机/容器资源;使用网络管理平台申请域名和IP。
产品发布
产品发布时使用初始化平台进行运行环境初始化,使用部署平台进行程序部署,使用配置管理平台进行配置分发,使用数据配送平台进行数据分发。总之,完成了程序/配置/数据自动化发布,产品即可对外提供服务。产品迭代的过程中使用自动化平台进行程序、配置和数据的变更以完成产品功能的升级。
产品运行维护
产品运行维护阶段运维工程师需要处理以下事项:
使用监控平台实时监测服务的运行状况和资源消耗情况,根据日常服务运行报表评估服务整体运行状态,发现服务隐患;接收监控平台产出的故障报警,参考监控平台的异常检测事件、部署平台变更事件、网络管理平台产生的网络异常事件进行故障定位。故障定位后,使用故障管理平台中针对机房、网络、程序等问题定制的预案进行自动或手动的止损。
参考容量管理平台依据服务CPU、内存、QPS、响应时间计算的容量分析数据,参考流量管理平台的实时流量监测数据,发现服务瓶颈,优化服务性能。在保障服务质量的前提下,进行容量调整和流量调整,以最节省的机器资源,最便宜的网络带宽为用户提供高质量的服务。
产品下线
产品下线时需要使用部署平台下线程序,使用机器管理/资源管理平台回收资源。
分类介绍
产品生命周期中使用的运维平台按照其所处的层次分为如下几类:基础设施平台、构建自动化平台、数据运营平台、业务调度平台和业务平台。
基础设施平台
基础设施平台主要用于产品发布前,包括机器管理、资源管理、网络管理以及架构基础设施。
机器管理以自动化的流程管理机器,包括机器上架(机架)、下架(机架)、申请和故障修复等。
资源管理管理的是虚拟机或者容器。私有云一般使用虚拟化技术例如Cgroup,LXC将物理机虚拟出若干容器,以容器为单位进行服务实例资源的分配和调度,例如Docker。公有云一般使用OpenStackXenKVM将物理机虚拟为虚拟机,例如AWS的EC2,阿里云的ECS,百度云的BCC等。
网络管理DNS、IP的申请和回收。
架构基础设施包括但不局限于文件存储、数据库存储、缓存服务、消息队列等组件。各大公司的基础架构研发团队一般会研发一些基础组件,例如Google的GFSBigTableMapReduce。当然还有一些开源的基础组件可以使用,例如分布式计算类:MapReduceSpark、Storm、Hive;分布式存储类:HDFSHBaseCassandraMongoDB;缓存类:MemcachedRedis;消息队列类:ActiveMQ。此外,公有云也会提供类似的基础设施,例如AWS除了卖EC2还卖RDS(Relational Database Service),EMR(Elastic MapReduce),S3(Simple Storage Service),EBS(Elastic Block Store),SQS(Simple Queue Service),SES(Simple Email Service)等。
构建自动化平台
构建自动化平台服务于产品发布,包括程序、配置和数据的变更。构建自动化平台提供小流量或者分级发布机制控制产品升级的风险,保障产品的持续交付。构建自动化平台包括部署平台、配置管理平台和数据管理平台。
部署平台包括部署包版本的管理、部署执行器、部署调度平台。常见的部署执行器例如Ansible、Sshpt。配置平台包括配置版本管理,配置分发工具以及配置分发策略平台。常见的配置分发工具包括PuppetCFEngine、Chef。数据管理平台包括数据版本管理,数据传输工具以及数据分发策略平台。开源的P2P数据传输工具例如uTorrent
数据运营平台
数据运营平台服务于产品运行维护操作,包括监控平台、容量管理、流量管理和故障管理。
监控平台采集、存储、计算服务相关的业务(例如收入,流量,响应时间)、系统(Cache命中率,队列大小,进程句柄等)、机器/容器(CPU,内存,磁盘使用量)和网络数据(机房、网段状态),并对这些指标进行异常检测,以仪表盘和通知(电话、短信、邮件)方式和运维工程师交互,帮助运维工程师进行日常排查发现服务隐患;帮助运维工程师快速发现业务异常,并借助多维度指标分析(地域、运营商、机房多维度综合分析)、事件关联分析(指标异常事件、网络故障事件和变更事件等)等手段辅助故障诊断,快速定位问题。
监控管理通常和故障管理打通,为故障管理提供自动化预案执行的决策数据。业界开源的监控软件有GangliaNagiosCactiZabbix,Prometheus,Open-Falcon;国内的监控产品有:监控宝OneAPM、Qmonitor(侧重于数据库监控);国外的监控产品有NewRelic,AppDynamics。
容量管理收集监控系统采集的服务相关的资源数据(例如CPU,内存,磁盘使用量)和性能数据(例如QPS,响应时间),评估系统容量,发现系统瓶颈,并以服务扩容、缩容方式最大化服务性能,最小化服务成本。
流量管理提供统一的流量接入方案,进行流量的接入和转发,实施全局的流量调度(外网和内网流量调度)。流量管理还承担产品的安全和防攻击(黑名单、防DDoS攻击、应用层防火墙)职责。
故障管理实现故障快速定位和止损,提升服务稳定性。故障管理一般包括预案管理和故障记录。预案主要应对以下场景,比如突发的用户流量、网络攻击、大规模网络故障、大规模程序故障、数据丢失等。故障记录便于运维工程师事后的原因分析和问题挖掘。例如某个业务、某个基础设施、某个机器经常性故障,就需要重点关注。通过调整产品部署策略、业务架构避免故障,或者总结故障预案,在故障发生时能够自动化快速止损。
业务调度平台
运维平台如此之多,在设计开发的过程中都必须以接口化、标准化、服务化的思维进行平台研发。这样在代码规范、接口规范、数据规范、稳定性高的平台之上就可以通过搭积木的方式快速构建更复杂业务调度平台。例如在资源管理平台、构建自动化平台、监控平台、流量管理平台、容量管理平台之上可以搭建PaaS平台,实现服务实例的自动化扩容、缩容和故障自动迁移。各大互联通公司都有自己的业务调度平台。例如Google内部的Borg,Omega(Borg 2.0),Facebook的Corona,Tencent的Typhoon。开源的业务调度平台例如Google的KubernetesApache Mesos
业务平台服务于运维工程师的日常运维工作,主要包括工作流引擎、权限管理、运维元数据管理和运维统一门户。
运维操作中需要多人协作处理的流程通常都需要发操作单。例如机器故障维修单、DNS变更操作单、数据库访问权限申请单等。这些操作流程都需要工作流引擎的支持。
权限管理平台,所有的运维操作都需要角色和用户权限管理。例如运维工程师对机器的操作权限,对服务监控采集和报警策略的修改权限,对服务部署变更的权限等;例如运维经理对运维操作单的审批权限。
元数据管理,包括机房、服务器、服务、产品、人员信息以及他们之间的物理和业务拓扑关系等,所有的运维平台都需要此类信息。
运维统一门户使得运维人员不必面对众多运维系统,运维门户中的任务中心收集了运维工程师要处理的工作;运维门户中的信息中心以仪表盘的方式收集了运维工程师需要关注的业务状态。
全国各地天气预报查询

上海市

  • 市辖区
  • 云南省

  • 临沧市
  • 云南省

  • 丽江市
  • 云南省

  • 保山市
  • 云南省

  • 大理白族自治州
  • 云南省

  • 德宏傣族景颇族自治州
  • 云南省

  • 怒江傈僳族自治州
  • 云南省

  • 文山壮族苗族自治州
  • 云南省

  • 昆明市
  • 云南省

  • 昭通市
  • 云南省

  • 普洱市
  • 云南省

  • 曲靖市
  • 云南省

  • 楚雄彝族自治州
  • 云南省

  • 玉溪市
  • 云南省

  • 红河哈尼族彝族自治州
  • 云南省

  • 西双版纳傣族自治州
  • 云南省

  • 迪庆藏族自治州
  • 内蒙古自治区

  • 乌兰察布市
  • 内蒙古自治区

  • 乌海市
  • 内蒙古自治区

  • 兴安盟
  • 内蒙古自治区

  • 包头市
  • 内蒙古自治区

  • 呼伦贝尔市
  • 内蒙古自治区

  • 呼和浩特市
  • 内蒙古自治区

  • 巴彦淖尔市
  • 内蒙古自治区

  • 赤峰市
  • 内蒙古自治区

  • 通辽市
  • 内蒙古自治区

  • 鄂尔多斯市
  • 内蒙古自治区

  • 锡林郭勒盟
  • 内蒙古自治区

  • 阿拉善盟
  • 北京市

  • 市辖区
  • 吉林省

  • 吉林市
  • 吉林省

  • 四平市
  • 吉林省

  • 延边朝鲜族自治州
  • 吉林省

  • 松原市
  • 吉林省

  • 白城市
  • 吉林省

  • 白山市
  • 吉林省

  • 辽源市
  • 吉林省

  • 通化市
  • 吉林省

  • 长春市
  • 四川省

  • 乐山市
  • 四川省

  • 内江市
  • 四川省

  • 凉山彝族自治州
  • 四川省

  • 南充市
  • 四川省

  • 宜宾市
  • 四川省

  • 巴中市
  • 四川省

  • 广元市
  • 四川省

  • 广安市
  • 四川省

  • 德阳市
  • 四川省

  • 成都市
  • 四川省

  • 攀枝花市
  • 四川省

  • 泸州市
  • 四川省

  • 甘孜藏族自治州
  • 四川省

  • 眉山市
  • 四川省

  • 绵阳市
  • 四川省

  • 自贡市
  • 四川省

  • 资阳市
  • 四川省

  • 达州市
  • 四川省

  • 遂宁市
  • 四川省

  • 阿坝藏族羌族自治州
  • 四川省

  • 雅安市
  • 天津市

  • 市辖区
  • 宁夏回族自治区

  • 中卫市
  • 宁夏回族自治区

  • 吴忠市
  • 宁夏回族自治区

  • 固原市
  • 宁夏回族自治区

  • 石嘴山市
  • 宁夏回族自治区

  • 银川市
  • 安徽省

  • 亳州市
  • 安徽省

  • 六安市
  • 安徽省

  • 合肥市
  • 安徽省

  • 安庆市
  • 安徽省

  • 宣城市
  • 安徽省

  • 宿州市
  • 安徽省

  • 池州市
  • 安徽省

  • 淮北市
  • 安徽省

  • 淮南市
  • 安徽省

  • 滁州市
  • 安徽省

  • 芜湖市
  • 安徽省

  • 蚌埠市
  • 安徽省

  • 铜陵市
  • 安徽省

  • 阜阳市
  • 安徽省

  • 马鞍山市
  • 安徽省

  • 黄山市
  • 山东省

  • 东营市
  • 山东省

  • 临沂市
  • 山东省

  • 威海市
  • 山东省

  • 德州市
  • 山东省

  • 日照市
  • 山东省

  • 枣庄市
  • 山东省

  • 泰安市
  • 山东省

  • 济南市
  • 山东省

  • 济宁市
  • 山东省

  • 淄博市
  • 山东省

  • 滨州市
  • 山东省

  • 潍坊市
  • 山东省

  • 烟台市
  • 山东省

  • 聊城市
  • 山东省

  • 菏泽市
  • 山东省

  • 青岛市
  • 山西省

  • 临汾市
  • 山西省

  • 吕梁市
  • 山西省

  • 大同市
  • 山西省

  • 太原市
  • 山西省

  • 忻州市
  • 山西省

  • 晋中市
  • 山西省

  • 晋城市
  • 山西省

  • 朔州市
  • 山西省

  • 运城市
  • 山西省

  • 长治市
  • 山西省

  • 阳泉市
  • 广东省

  • 东莞市
  • 广东省

  • 中山市
  • 广东省

  • 云浮市
  • 广东省

  • 佛山市
  • 广东省

  • 广州市
  • 广东省

  • 惠州市
  • 广东省

  • 揭阳市
  • 广东省

  • 梅州市
  • 广东省

  • 汕头市
  • 广东省

  • 汕尾市
  • 广东省

  • 江门市
  • 广东省

  • 河源市
  • 广东省

  • 深圳市
  • 广东省

  • 清远市
  • 广东省

  • 湛江市
  • 广东省

  • 潮州市
  • 广东省

  • 珠海市
  • 广东省

  • 肇庆市
  • 广东省

  • 茂名市
  • 广东省

  • 阳江市
  • 广东省

  • 韶关市
  • 广西壮族自治区

  • 北海市
  • 广西壮族自治区

  • 南宁市
  • 广西壮族自治区

  • 崇左市
  • 广西壮族自治区

  • 来宾市
  • 广西壮族自治区

  • 柳州市
  • 广西壮族自治区

  • 桂林市
  • 广西壮族自治区

  • 梧州市
  • 广西壮族自治区

  • 河池市
  • 广西壮族自治区

  • 玉林市
  • 广西壮族自治区

  • 百色市
  • 广西壮族自治区

  • 贵港市
  • 广西壮族自治区

  • 贺州市
  • 广西壮族自治区

  • 钦州市
  • 广西壮族自治区

  • 防城港市
  • 新疆维吾尔自治区

  • 乌鲁木齐市
  • 新疆维吾尔自治区

  • 伊犁哈萨克自治州
  • 新疆维吾尔自治区

  • 克孜勒苏柯尔克孜自治州
  • 新疆维吾尔自治区

  • 克拉玛依市
  • 新疆维吾尔自治区

  • 博尔塔拉蒙古自治州
  • 新疆维吾尔自治区

  • 吐鲁番市
  • 新疆维吾尔自治区

  • 和田地区
  • 新疆维吾尔自治区

  • 哈密市
  • 新疆维吾尔自治区

  • 喀什地区
  • 新疆维吾尔自治区

  • 塔城地区
  • 新疆维吾尔自治区

  • 巴音郭楞蒙古自治州
  • 新疆维吾尔自治区

  • 昌吉回族自治州
  • 新疆维吾尔自治区

  • 自治区直辖县级行政区划
  • 新疆维吾尔自治区

  • 阿克苏地区
  • 新疆维吾尔自治区

  • 阿勒泰地区
  • 江苏省

  • 南京市
  • 江苏省

  • 南通市
  • 江苏省

  • 宿迁市
  • 江苏省

  • 常州市
  • 江苏省

  • 徐州市
  • 江苏省

  • 扬州市
  • 江苏省

  • 无锡市
  • 江苏省

  • 泰州市
  • 江苏省

  • 淮安市
  • 江苏省

  • 盐城市
  • 江苏省

  • 苏州市
  • 江苏省

  • 连云港市
  • 江苏省

  • 镇江市
  • 江西省

  • 上饶市
  • 江西省

  • 九江市
  • 江西省

  • 南昌市
  • 江西省

  • 吉安市
  • 江西省

  • 宜春市
  • 江西省

  • 抚州市
  • 江西省

  • 新余市
  • 江西省

  • 景德镇市
  • 江西省

  • 萍乡市
  • 江西省

  • 赣州市
  • 江西省

  • 鹰潭市
  • 河北省

  • 保定市
  • 河北省

  • 唐山市
  • 河北省

  • 廊坊市
  • 河北省

  • 张家口市
  • 河北省

  • 承德市
  • 河北省

  • 沧州市
  • 河北省

  • 石家庄市
  • 河北省

  • 秦皇岛市
  • 河北省

  • 衡水市
  • 河北省

  • 邢台市
  • 河北省

  • 邯郸市
  • 河南省

  • 三门峡市
  • 河南省

  • 信阳市
  • 河南省

  • 南阳市
  • 河南省

  • 周口市
  • 河南省

  • 商丘市
  • 河南省

  • 安阳市
  • 河南省

  • 平顶山市
  • 河南省

  • 开封市
  • 河南省

  • 新乡市
  • 河南省

  • 洛阳市
  • 河南省

  • 漯河市
  • 河南省

  • 濮阳市
  • 河南省

  • 焦作市
  • 河南省

  • 省直辖县级行政区划
  • 河南省

  • 许昌市
  • 河南省

  • 郑州市
  • 河南省

  • 驻马店市
  • 河南省

  • 鹤壁市
  • 浙江省

  • 丽水市
  • 浙江省

  • 台州市
  • 浙江省

  • 嘉兴市
  • 浙江省

  • 宁波市
  • 浙江省

  • 杭州市
  • 浙江省

  • 温州市
  • 浙江省

  • 湖州市
  • 浙江省

  • 绍兴市
  • 浙江省

  • 舟山市
  • 浙江省

  • 衢州市
  • 浙江省

  • 金华市
  • 海南省

  • 三亚市
  • 海南省

  • 三沙市
  • 海南省

  • 儋州市
  • 海南省

  • 海口市
  • 海南省

  • 省直辖县级行政区划
  • 湖北省

  • 十堰市
  • 湖北省

  • 咸宁市
  • 湖北省

  • 孝感市
  • 湖北省

  • 宜昌市
  • 湖北省

  • 恩施土家族苗族自治州
  • 湖北省

  • 武汉市
  • 湖北省

  • 省直辖县级行政区划
  • 湖北省

  • 荆州市
  • 湖北省

  • 荆门市
  • 湖北省

  • 襄阳市
  • 湖北省

  • 鄂州市
  • 湖北省

  • 随州市
  • 湖北省

  • 黄冈市
  • 湖北省

  • 黄石市
  • 湖南省

  • 娄底市
  • 湖南省

  • 岳阳市
  • 湖南省

  • 常德市
  • 湖南省

  • 张家界市
  • 湖南省

  • 怀化市
  • 湖南省

  • 株洲市
  • 湖南省

  • 永州市
  • 湖南省

  • 湘潭市
  • 湖南省

  • 湘西土家族苗族自治州
  • 湖南省

  • 益阳市
  • 湖南省

  • 衡阳市
  • 湖南省

  • 邵阳市
  • 湖南省

  • 郴州市
  • 湖南省

  • 长沙市
  • 甘肃省

  • 临夏回族自治州
  • 甘肃省

  • 兰州市
  • 甘肃省

  • 嘉峪关市
  • 甘肃省

  • 天水市
  • 甘肃省

  • 定西市
  • 甘肃省

  • 平凉市
  • 甘肃省

  • 庆阳市
  • 甘肃省

  • 张掖市
  • 甘肃省

  • 武威市
  • 甘肃省

  • 甘南藏族自治州
  • 甘肃省

  • 白银市
  • 甘肃省

  • 酒泉市
  • 甘肃省

  • 金昌市
  • 甘肃省

  • 陇南市
  • 福建省

  • 三明市
  • 福建省

  • 南平市
  • 福建省

  • 厦门市
  • 福建省

  • 宁德市
  • 福建省

  • 泉州市
  • 福建省

  • 漳州市
  • 福建省

  • 福州市
  • 福建省

  • 莆田市
  • 福建省

  • 龙岩市
  • 西藏自治区

  • 山南市
  • 西藏自治区

  • 拉萨市
  • 西藏自治区

  • 日喀则市
  • 西藏自治区

  • 昌都市
  • 西藏自治区

  • 林芝市
  • 西藏自治区

  • 那曲市
  • 西藏自治区

  • 阿里地区
  • 贵州省

  • 六盘水市
  • 贵州省

  • 安顺市
  • 贵州省

  • 毕节市
  • 贵州省

  • 贵阳市
  • 贵州省

  • 遵义市
  • 贵州省

  • 铜仁市
  • 贵州省

  • 黔东南苗族侗族自治州
  • 贵州省

  • 黔南布依族苗族自治州
  • 贵州省

  • 黔西南布依族苗族自治州
  • 辽宁省

  • 丹东市
  • 辽宁省

  • 大连市
  • 辽宁省

  • 抚顺市
  • 辽宁省

  • 朝阳市
  • 辽宁省

  • 本溪市
  • 辽宁省

  • 沈阳市
  • 辽宁省

  • 盘锦市
  • 辽宁省

  • 营口市
  • 辽宁省

  • 葫芦岛市
  • 辽宁省

  • 辽阳市
  • 辽宁省

  • 铁岭市
  • 辽宁省

  • 锦州市
  • 辽宁省

  • 阜新市
  • 辽宁省

  • 鞍山市
  • 重庆市

  • 重庆市

  • 市辖区
  • 陕西省

  • 咸阳市
  • 陕西省

  • 商洛市
  • 陕西省

  • 安康市
  • 陕西省

  • 宝鸡市
  • 陕西省

  • 延安市
  • 陕西省

  • 榆林市
  • 陕西省

  • 汉中市
  • 陕西省

  • 渭南市
  • 陕西省

  • 西安市
  • 陕西省

  • 铜川市
  • 青海省

  • 果洛藏族自治州
  • 青海省

  • 海东市
  • 青海省

  • 海北藏族自治州
  • 青海省

  • 海南藏族自治州
  • 青海省

  • 海西蒙古族藏族自治州
  • 青海省

  • 玉树藏族自治州
  • 青海省

  • 西宁市
  • 青海省

  • 黄南藏族自治州
  • 黑龙江省

  • 七台河市
  • 黑龙江省

  • 伊春市
  • 黑龙江省

  • 佳木斯市
  • 黑龙江省

  • 双鸭山市
  • 黑龙江省

  • 哈尔滨市
  • 黑龙江省

  • 大兴安岭地区
  • 黑龙江省

  • 大庆市
  • 黑龙江省

  • 牡丹江市
  • 黑龙江省

  • 绥化市
  • 黑龙江省

  • 鸡西市
  • 黑龙江省

  • 鹤岗市
  • 黑龙江省

  • 黑河市
  • 黑龙江省

  • 齐齐哈尔市