中国石化打造云计算大数据平台
 
 
摘要:随着市场变化,为适应快节奏的工作需求,精确处理各项业务中出现的海量数据,云计算和大数据处理平台应运而生。
 

       在新的业务模式下,中国石化需要IT敏捷化,快速灵活地支撑业务发展,运用互联网思维,创新企业管理模式、商务模式,对内推动管理向精细化、科学化转变,对外打造多业态的商业服务新模式,实现由生产制造商向综合服务商转变。
       
相互协调 互相驱动
 
      传统的信息化建设,以烟囱模式进行,一个应用一套系统,一套应用一组资源,资源在一个应用系统内使用,资源部署周期长,资源也难以共享。
       
      在烟囱式的建设模式下,传统的IOE系统架构无法面对上述的需求,只有将一个数据中心看作一个整体来提供资源,将每个应用看作数据中心上的一个工作任务,在整体的资源视图模式下,进行作业的调度、管理,才能提高资源的整体利用率,应用系统的部署和使用才能高效敏捷,需要找到新的技术和方法来实现IT敏捷化。
       
      云计算的并行处理,弹性供给资源框架,利用“分而治之”方法,通过并行计算解决大型处理并将计算资源作为可计量的服务快速供给,支撑业务使用。云计算是弹性计算,其基础设施即服务,平台组件即服务,应用即服务,资源的按需供给,弹性计算使敏捷IT成为一种可能。
       
      数据处理也经历了一个较大的变化过程,传统的数据处理是一个简单的分析系统,原先与生产交易系统通常在一起,后来逐渐剥离,成为独立的查询分析,逐渐演变成数据仓库系统。随着数据越来越多、越来越复杂、越来越实时,这就需要改进数据处理的方式,大数据平台应运而生,对海量,多来源的数据进行处理,处理数据包括结构化数据,非结构化数据,处理方式包括离线处理、分批处理和实时处理。
       
      云计算和大数据相互协调,互相驱动发展。大数据是云平台的一个重要应用,云平台因为有大数据分析这一利器,更加凸显平台的价值和理念。
       
精心规划 整体布局
       
      为建设敏捷的IT基础设施,中国石化提前规划,多方调研,精确选型、打造石化的云计算、大数据平台。
       
      中国石化云计算、大数据平台建设以系统平台化、应用移动化、自主化为宗旨,以提升资源共享能力、提升数据利用能力、提升创新驱动能力为目标,结合石化应用需求和业界云平台特点,将私有云平台中通用云技术、互联网云技术相互补充。
       
      结合业务流程复杂、实时性和耦合性要求高、专业化商业软件采用通用云技术等特点,中国石化现阶段在通用云技术方面选用微软平台,互联网云技术方面选择阿里技平台。从用户群体、系统集成、信息安全等方面考虑,与相关业务部门共同商讨确定部署在公有云的应用清单。以客户供应商访问为主的第三方公共应用拟部署在公有云的石化专区内,便于外部用户访问。采用互联网技术建设大数据分析平台,形成大数据离线分析、批量分析和实时分析平台,完善数据抽取、清洗,展现工具,从而搭建起中国石化云计算、大数据平台的建设框架。
       
      云平台服务组件层可为应用提供统一共享、弹性灵活的复用组件,支撑应用快速开发和部署;公共组件服务,降低了IT的投资成本及运维成本,缩短开发周期,打造能快速上线,能迭代开发,能持续改进的应用系统。通过“厚平台、薄应用”的理念,各类应用软件也开始采用并行计算,分布式模式进行重新架构,逐步云化。按照平台层和应用层开发集中共享的应用系统,提升数据的共享,分析能力。
       
      打造持续交付平台,将开发、测试和生产的整个生命周期,并在云环境下统一管理,实施从需求、设计,开发、部署、运维的整体云上部署战略。建立完善云相关的制度规范,组建一体化云运营队伍。建运结合,管理指导,服务配套,提高资源供给效率,加强各板块的服务考核,提升服务响应能力。
       
厚平台 薄应用
       
      中国石化采用多种技术,搭建了资源池,提供弹性资源;打造大数据处理平台,增强数据收集、处理、建模、实时展现能力,率先实现平台层的服务组件,在行业处于领先水平,使系统内部形成敏捷、弹性、按需供给的IT基础环境。
       
      云平台在统一的云门户管理下,覆盖集团公司总部和企业,拟覆盖4个区域中心及相关的4个企业。总部资源服务于全集团,区域中心云资源节点优先服务本区域,企业云资源节点服务于本企业。
       
      总部已经建成了集中共享资源池,云资源规模为1000台服务器,具备大数据存储与处理能力。 总部资源不仅包括基础设施层资源,而且包括平台服务组件资源,现已提供的平台服务资源为12个组件,为应用开发打下较好的基础。
       
云栖石化 服务大家
       
      目前,中国石化云平台支撑了集中建设的大系统,大平台,如易派客、第四方物流等约150个应用。并且在易派客电商、燃料油、化工销售品、CRM等大应用的开发中,初步沉淀了中国石化的共享服务组件,如用户中心,商品中心,订单中心等。为其他企业使用云平台提供了参考方案,同时也为企业的应用开发提供了共享服务组件。如燃料油、润滑油、北京石油、广东石油等企业采用总部的云资源搭建了互联网应用,构筑商业生态圈。
       
      在项目使用资源时,由原来的需求,立项,采购建设等长周期过程,改为申请资源,线上审批,项目分配,邮件通知。由原来的3至6个月,缩短到现在的1至2天的审批和分配周期,应急流程可缩短到2小时以内。
       
      集中共享的云平台建成后,改变了总部项目建设模式,由原来的烟囱模式,逐步改变成集中共享模式;改变了企业对资源建设的认识,由自建改为按需申请,并参考互联网上的资源收费价格进行资源计量,模拟收费。辅以资源监控,项目用户的自我监控评估,对资源的使用情况进行跟踪,可对不足的资源提出升级流程,对富余的资源,申请回收流程,避免资源过度消费,从而降低服务器的总采购数量,节省投资,提高了资源利用率。
       
      云平台上线后,企业新开发的系统基于云平台进行搭建,减少了服务器资源的自建内容,缓解了企业的机房建设压力。同时,云平台建设采用国产硬件设备,大量引入开源产品,包括操作系统、数据库和中间件,定制开发了云管理平台,开源组件加定制开发,减少了对国外厂家的依赖,增加了自主可控性。
       
力保安全 持续优化
       
      结合总部和企业项目的需求,中国石化对云平台的建设正在努力地完善中:增加云的容量,以支持更多的应用。

      增加强逻辑隔离域以支撑金融支付平台等。
       
      增加云的组件,特别是数据保护、通讯加密、安全态势感知等安全功能组件,提供云资源的整体安全性。
       
      增加云的地域覆盖,加强企业的接入能力,不仅能为企业的经营管理提供资源服务,也能为企业的生产管理提供资源服务。
       
      增加云的弹性供给能力,应对客户管理等系统B2C业务场景下大并发的用户访问,支持互联网模式下“秒杀”等营销模式等,支持改善用户体验。
       
      增加云的灾备能力,形成多个数据中心联动的云资源,进一步保障应用系统的安全性,提高应用系统的业务连续性。
       
      完善云管理的功能,提供云管理的监控、预警能力,提供项目、应用视角的监控。
       
      进一步完善计量收费功能,为落实按项目进行计量收费做好准备,进一步促进资源利用率的提高。
       


信息来源:中国石化杂志第10期(信息部 刘虹)