技术架构部:架构坚实,流量无限,护航6.18

栏目: 服务器 · 发布时间: 6年前

内容简介:阿基米德调度平台历经多年的技术沉淀与发展以及线上大促的千锤百炼,京东数据中心操作系统(JDOS,JingdongDatacenter OS)不仅仅作为京东数据中心操作管理资源,更作为京东统一的PaaS平台致力于支撑业务系统快速交付、稳定运行。作为支撑京东万亿GMV的基础设施,JDOS集合了大规模容器调度、数据库与存储、微服务、智能图片技术,以及异地多活和智能运维。通过对资源的时空复用、资源碎片的整合、精细化的运营及额外算力提供、在线/离线混部和基于历史监控数据的深度机器学习,实现了服务器资源的精准预测和秒级

备战口号

架构坚实,流量无限,护航6.18

阿基米德调度平台

历经多年的技术沉淀与发展以及线上大促的千锤百炼,京东数据中心操作系统(JDOS,JingdongDatacenter OS)不仅仅作为京东数据中心操作管理资源,更作为京东统一的PaaS平台致力于支撑业务系统快速交付、稳定运行。作为支撑京东万亿GMV的基础设施,JDOS集合了大规模容器调度、数据库与存储、微服务、智能图片技术,以及异地多活和智能运维。通过对资源的时空复用、资源碎片的整合、精细化的运营及额外算力提供、在线/离线混部和基于历史监控数据的深度机器学习,实现了服务器资源的精准预测和秒级编排调度,大幅提升资源利用率。保守估计,今年的6.18大促,仅阿基米德节省的硬件资源成本就达到了数亿元。

即使身经百战,每一次6.18都是对JDOS系统的又一次检验和挑战,经过无数次的紧张演练,问题排查,系统优化升级。JDOS团队对线上各集群各模块进行了细致的梳理和加固,保证为业务系统提供稳定基础环境,同时提供资源支持和压测支持,服务应用快速交付,更有7*24小时轮流值班的业务支持,保证线上任何问题,都在第一时间责任到人,专人解决,从容支撑大促期间的高峰流量,保障业务的高速发展。

技术架构部:架构坚实,流量无限,护航6.18

技术架构部:架构坚实,流量无限,护航6.18

JDOS团队日常备战

数据库&JIMDB

数据库技术部通过对系统的优化和智能化升级,从事前、事中、事后对6.18大促进行全面保障,通过智能分析预测技术,在大促前对资源进行合理调度,与弹性数据库在线扩缩相融合,扩容了磁盘有风险点的业务、元数据服务器内存、重要网关集群的实例,提升了服务稳定性,夯实应用基础数据服务。BinLake减缓数据库压力的同时向下游提供稳定可靠数据变化流。升级系统预警监控,准确应对系统高峰。高效稳定的备份服务为系统容灾提供坚实保障。数据库技术部努力防患于未然,及时发现,快速处理,为6.18大促保驾护航。

技术架构部:架构坚实,流量无限,护航6.18

大促领航塑风采,数据库技术创时代

在电商场景下需要提供大量的高吞吐、低延迟的服务,往往数据读写会成为制约业务并发能力的瓶颈,在线存储部提供的高速内存存储JIMDB很好的解决了这一痛点。支持高速的读写速度、海量的存储空间。这些对于数据存储系统来说近乎苛刻的要求如今已成为在线存储部各种产品的标配。帮助各业务线研发人员将精力主要集中到自己的业务逻辑,大大减轻了备战压力。为此,在线存储部也进行了紧张而有序的备战,通过多次的故障演练、预案演练、捣乱演练,保证出现最坏的情况我们也能够掌控全局、从容应对。通过对服务器、网络、集群进行高频率的巡检,使得我们能够保持最佳状态应对大考来临。另外我们还支持了手机端运维,保证了对随时对线上问题的响应能力;并增加了多种紧急情况下的应急处理手段,万一真的出现意料之外的问题也能够快速解决、及时止损。

技术架构部:架构坚实,流量无限,护航6.18

九洲洪流聚京东,在线存储砥中流

中间件JSF&JMQ

微服务平台负责京东集团JSF服务框架的研发与维护,支撑6.18大促期间高峰流量,力保服务间调用稳如泰山。从5月初开始,微服务平台团队对负责的JSF客户端、注册中心、网关和Ducc等所有系统进行沟通,对功能进行梳理,强调落实责任制,排查可能存在的风险点,加强日常系统巡检力度,完善故障处理流程,做好运维支持服务,并对用户反馈的问题认真分析解决。

技术架构部:架构坚实,流量无限,护航6.18

微服务保大促,扛得稳限得住!

在JMQ4的稳定性测试过程中,研发同学努力拼搏,积极进取,从设计测试方案,开发测试功能,调整测试场景,事无巨细,努力打造一个新的精品mq。整个测试过程中,他们完善了协议兼容,提升系统性能,优化内存管理,挖掘硬件性能。

在JMQ2的备战过程中,研发和运维的同学,提升系统监控,加强集群内部管理。使得内部资源使用,分配更加均衡。合理评估各个业务线的资源使用情况,整个备战过程中,自动扩容/缩容上百次。既保障了系统的稳定、可用,又最大限度的节省了资源。

同时在监控方面提升了监控力度和灵敏度,在整体备战过程中,能够及时发现正在压测的系统,杜绝了因某一单一系统压测,影响其他系统的事故的情况。

技术架构部:架构坚实,流量无限,护航6.18

流量洪峰谁来扛?削峰填谷我在行!

智能存储平台

技术架构部:架构坚实,流量无限,护航6.18

今年的6.18对于智能存储平台来说面临许多新的挑战,首先是ChubaoFS 4月份上线以来,因高性能和易用性获得众多业务青睐,特别是点击流、推荐、数据库备份以及容器平台等核心业务加入,存储的核心数据快速上升,给上线2个月就面临第一次大考的ChubaoFS带来极大挑战。短视频成为京东新的重要流量来源,视频文件在6.18将迎来一波流量高峰。而承担主站80%流量的图片系统,今年也迎来极大升级,全量切换到智能调度,实现了冷热数据分级存储,达到50%以上的成本节约。

大家热情高涨,对于新功能,备战预案、压测、监控完善,一步步按部就班梳理下来。对于老系统,也没有放松警惕。“如果流量突然翻了几倍,系统是否能抗住?是否有快速应对措施?”,“如果某个机房网络故障,系统是否还能提供正常服务?"不放过一点盲区。通过一系列扩容、压测、演练,对于6.18,我们信心十足。

智能监控平台

除了大促背后支撑各个业务侧系统的服务支持外,还有充当各业务侧系统“眼睛”的智能监控平台,通过智能监控平台可查看各业务系统应用的多维度监控:

分钟级粒度不够,UMP 还有秒级监控!

告警太多不聚焦,UMP2.0 提供告警统计与分析服务!

当前数据查看不够,我们也有历年大促数据查询!

数据有点孤立?pfinder闪亮登场,帮您解决数据孤岛问题!

docker 的 OS 级监控不方便使用?新增按照应用维度默认建“分组”以及诸多新特性!

黄金流程上关键KEY 需要直观展示。京东视界里,UMP 提供相关秒级监控的大屏展示!

智能监控平台在此次6.18备战中,不仅致力于改善京东全体研发小伙伴在监控相关产品上的体验,还做了大量技改工作,如通用的监控底层服务、报警方式优化、MDC 查询架构优化、logbook 底层架构升级、杰思对 ES 集群增加弹性调度与自动拉起等优化功能!

带给大家诸多系统的新体验背后,是智能监控团队小伙伴们每天加班加点,力保新产品功能快速迭代以及多个老平台的稳定服务保障!

系统运维保障

技术架构部:架构坚实,流量无限,护航6.18

为保证各个系统在大促期间的稳定,系统保障部运维团队不仅通过“故障演练系统”为零售平台、京东物流、人工智能业务部等部门的业务系统演练了71种、7200余个故障,同时也对JIMDB、数据库、JFS等系统进行了故障演练,在验证了各系统对故障的冗余程度的同时,也演练了各系统的研发和运维人员是否能够及时发现故障并启动应用响应预案,确保在6.18期间发生所有已知故障时,不会影响业务的连续性。6.18备战,资源准备也是重要的一环,通过资源的调度优化,满足了各部门对容器资源的需求数十万核、存储资源,确保6.18大促的平稳进行。宿迁呼叫中心运维团队也对客服中心电话系统等进行了多轮优化与排查,对宿迁各客服中心网络进行了演练保障,确保客服中心的系统稳定。

技术架构部:架构坚实,流量无限,护航6.18


以上所述就是小编给大家介绍的《技术架构部:架构坚实,流量无限,护航6.18》,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对 码农网 的支持!

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

We Are the Nerds

We Are the Nerds

Christine Lagorio-Chafkin / Hachette Books / 2018-10-2 / USD 18.30

Reddit hails itself as "the front page of the Internet." It's the third most-visited website in the United States--and yet, millions of Americans have no idea what it is. We Are the Nerds is an eng......一起来看看 《We Are the Nerds》 这本书的介绍吧!

JSON 在线解析
JSON 在线解析

在线 JSON 格式化工具

RGB转16进制工具
RGB转16进制工具

RGB HEX 互转工具

Markdown 在线编辑器
Markdown 在线编辑器

Markdown 在线编辑器