一条光纤传输中断后,如何引发了全网VoLTE瘫痪?

网优雇佣军 2021-04-06 00:00

2020年6月15日,美国运营商T-Mobile发生了一起罕见的网络重大事故。全国范围内的语音和短信服务中断长达12小时。事后,美国FCC主席公开表示这起重大网络事故“不可接受”,并随后对T-Mobile展开了调查。


全国范围,中断12小时,连911也无法拨打......如此严重的网络事故成为了全球运营商鲜活的反面教材,那背后到底是什么原因导致的?



不久前,运营商Orange在对这起全球瞩目的重大网络事故进行研究后,详细透露了这起事故的来龙去脉。

T-Mobile网络架构简介

T-Mobile的语音网络包括VoLTE、VoWiFi和2/3G CS网络,VoLTE语音业务通过4G LTE基站和传输网络连接到IMS,2/3G电路交换网关、WiFi网关与LTE核心网和IMS互联互通。网络内绝大多数手机会同时注册和连接到LTE和2/3G电路交换网络,如果VoLTE和VoWiFi呼叫失败或超时,或者在没有LTE和WiFi覆盖的情况下,手机会通过2/3G网络进行语音业务。


同时,T-Mobile传送网的路由器采用OSPF(Open Shortest Path First,开放式最短路径优先)路由协议,即给每一条链路分配一个权重,网络始终选择一个权重最小的路径来传输数据流量。


如上图,连接每个路由器的每条链路都分配了一个代表其权重的数字。要将数据从西雅图传输到迈阿密,网络会选择累积权重最小的路径,即会经由洛杉矶的路由器转发到迈阿密。而一旦西雅图与洛杉矶之间的链路中断,网络会选择另一条累积权重最小的路由来替代,即经由丹佛和纽约的路由器转发到迈阿密。

故障过程分析

1
美国东部时间2020年6月15日 12:33,T-Mobile在亚特兰大地区的VoLTE网络的一条光纤传输链路发生故障。如上所述,按T-Mobile的网络路由策略,当这条链路发生故障后,网络会根据OSPF协议重新选择一条备用路由来传输数据,从而缓解故障影响。

2
但万万没想到,T-Mobile工程师当初错误配置了这条备用路由上的其中一台路由器的权重,导致数据流量流向了一台无法处理大量呼叫信令流量的路由器,使得整个亚特兰大地区的4G语音和数据业务中断。


3
亚特兰大地区的所有4G手机向IMS发起VoLTE注册时失败,当手机通过4G网络注册失败超时后,又开始尝试通过Wi-Fi网络向IMS重新注册,但仍然注册失败,从而引发了信令流量拥塞。

3
12:45,12分钟后,中断的光传输链路恢复,此时通过WiFi注册失败的手机又重新尝试通过VoLTE注册,但因路由器权重配置错误,VoLTE重新注册再次失败,这进一步加剧了信令流量拥塞。

4
此时,T-Mobile工程师判断认为故障原因可能仍然由光传输故障引起,于是,又手动关闭了这条刚恢复的光传输链路,以继续试图通过其他路由传输数据。但这让网络故障又回到了初始状态,整个亚特兰大地区的移动用户无法连接4G网络,被迫再次通过WiFi建立呼叫,结果依然失败..... 再次加剧信令拥塞。

5
工程师们认识到判断错误,在一个小时后再次开启这条光传输链路,使得亚特兰大地区的手机又再一次重新尝试VoLTE注册,再再次加剧了网络信令拥塞。

6
就这样,在“Wi-Fi注册”与“VoLTE注册”之间来回折腾,循环“震荡”,导致部署在亚特兰大地区的IMS系统严重拥塞后,流量开始重定向到其他地区的IMS注册系统,从而引发了信令风暴蔓延到全国。


7
15:00左右,T-Mobile分布于全美的IMS注册节点变得越来越拥塞,最终导致全国范围内的VoLTE和VoWiFi语音注册失败,从而引发了一场全网VoLTE瘫痪的重大网络事故。

8
事故还在继续蔓延。
当手机无法连接VoLTE和VoWiFi后,大量的手机回落到2/3G网络,这也造成了2/3G网络拥塞。

9
直到6月16日凌晨1点左右,T-Mobile在动用了数百名工程师之后,与供应商和合作伙伴一起终于将问题解决。网络恢复正常。

简单的讲,整个事故的过程是:

一条光纤传输链路发生中断,同时因为人为配置错误导致备份链路也失效了,引发了信令流量风暴蔓延全国,使得全国范围内的IMS系统发生严重拥塞,从而导致全国范围内的VoLTE业务瘫痪。

一条光纤传输链路中断,一次人为配置错误,就引发一场如此大规模的网络事故。进入5G时代,不仅网络更加复杂,而且对网络的稳定性和可靠性要求更高,这起刚好发生在5G商用元年的重大事故自然引起了全球运营商的高度关注。甚至有运营商以此为鉴,专门针对网络故障展开了专项研究。

希望下一次,一条小小光纤链路,一次不经意的人为错误,再也不会引起如此重大的网络故障。

本文参考:
June 15, 2020 T-Mobile Network Outage Report,FCC
How the T-Mobile outage of 2020 went down,Brigette Cardinaeal ,Orange

网优雇佣军投稿邮箱:wywd11@126.com
长按二维码关注
通信路上,一起走!
网优雇佣军 通信、科技、未来!通信路上,一起走!
评论
  • 一个真正的质量工程师(QE)必须将一件产品设计的“意图”与系统的可制造性、可服务性以及资源在现实中实现设计和产品的能力结合起来。所以,可以说,这确实是一种工程学科。我们常开玩笑说,质量工程师是工程领域里的「侦探」、「警察」或「律师」,守护神是"墨菲”,信奉的哲学就是「墨菲定律」。(注:墨菲定律是一种启发性原则,常被表述为:任何可能出错的事情最终都会出错。)做质量工程师的,有时会不受欢迎,也会被忽视,甚至可能遭遇主动或被动的阻碍,而一旦出了问题,责任往往就落在质量工程师的头上。虽然质量工程师并不负
    优思学院 2025-01-09 11:48 177浏览
  • 在智能网联汽车中,各种通信技术如2G/3G/4G/5G、GNSS(全球导航卫星系统)、V2X(车联网通信)等在行业内被广泛使用。这些技术让汽车能够实现紧急呼叫、在线娱乐、导航等多种功能。EMC测试就是为了确保在复杂电磁环境下,汽车的通信系统仍然可以正常工作,保护驾乘者的安全。参考《QCT-基于LTE-V2X直连通信的车载信息交互系统技术要求及试验方法-1》标准10.5电磁兼容试验方法,下面将会从整车功能层面为大家解读V2X整车电磁兼容试验的过程。测试过程揭秘1. 设备准备为了进行电磁兼容试验,技
    北汇信息 2025-01-09 11:24 150浏览
  • 根据环洋市场咨询(Global Info Research)项目团队最新调研,预计2030年全球中空长航时无人机产值达到9009百万美元,2024-2030年期间年复合增长率CAGR为8.0%。 环洋市场咨询机构出版了的【全球中空长航时无人机行业总体规模、主要厂商及IPO上市调研报告,2025-2031】研究全球中空长航时无人机总体规模,包括产量、产值、消费量、主要生产地区、主要生产商及市场份额,同时分析中空长航时无人机市场主要驱动因素、阻碍因素、市场机遇、挑战、新产品发布等。报告从中空长航时
    GIRtina 2025-01-09 10:35 170浏览
  • 1月9日,在2025国际消费电子展览会(CES)期间,广和通发布集智能语音交互及翻译、4G/5G全球漫游、随身热点、智能娱乐、充电续航等功能于一体的AI Buddy(AI陪伴)产品及解决方案,创新AI智能终端新品类。AI Buddy是一款信用卡尺寸的掌中轻薄智能设备,为用户带来实时翻译、个性化AI语音交互助手、AI影像识别、多模型账户服务、漫游资费服务、快速入网注册等高品质体验。为丰富用户视觉、听觉的智能化体验,AI Buddy通过蓝牙、Wi-Fi可配套OWS耳机、智能眼镜、智能音箱、智能手环遥
    物吾悟小通 2025-01-09 18:21 157浏览
  • Snyk 是一家为开发人员提供安全平台的公司,致力于协助他们构建安全的应用程序,并为安全团队提供应对数字世界挑战的工具。以下为 Snyk 如何通过 CircleCI 实现其“交付”使命的案例分析。一、Snyk 的挑战随着客户对安全工具需求的不断增长,Snyk 的开发团队面临多重挑战:加速交付的需求:Snyk 的核心目标是为开发者提供更快、更可靠的安全解决方案,但他们的现有 CI/CD 工具(TravisCI)运行缓慢,无法满足快速开发和部署的要求。扩展能力不足:随着团队规模和代码库的不断扩大,S
    艾体宝IT 2025-01-10 15:52 144浏览
  • 在当前人工智能(AI)与物联网(IoT)的快速发展趋势下,各行各业的数字转型与自动化进程正以惊人的速度持续进行。如今企业在设计与营运技术系统时所面临的挑战不仅是技术本身,更包含硬件设施、第三方软件及配件等复杂的外部因素。然而这些系统往往讲究更精密的设计与高稳定性,哪怕是任何一个小小的问题,都可能对整体业务运作造成严重影响。 POS应用环境与客户需求以本次分享的客户个案为例,该客户是一家全球领先的信息技术服务与数字解决方案提供商,遭遇到一个由他们所开发的POS机(Point of Sal
    百佳泰测试实验室 2025-01-09 17:35 168浏览
  • 在过去十年中,自动驾驶和高级驾驶辅助系统(AD/ADAS)软件与硬件的快速发展对多传感器数据采集的设计需求提出了更高的要求。然而,目前仍缺乏能够高质量集成多传感器数据采集的解决方案。康谋ADTF正是应运而生,它提供了一个广受认可和广泛引用的软件框架,包含模块化的标准化应用程序和工具,旨在为ADAS功能的开发提供一站式体验。一、ADTF的关键之处!无论是奥迪、大众、宝马还是梅赛德斯-奔驰:他们都依赖我们不断发展的ADTF来开发智能驾驶辅助解决方案,直至实现自动驾驶的目标。从新功能的最初构思到批量生
    康谋 2025-01-09 10:04 153浏览
  • 车机导航有看没有懂?智能汽车语系在地化不可轻忽!随着智能汽车市场全球化的蓬勃发展,近年来不同国家地区的「Automotive Localization」(汽车在地化)布局成为兵家必争之地,同时也是车厂在各国当地市场非常关键的营销利器。汽车在地化过程中举足轻重的「汽车语系在地化」,则是透过智能汽车产品文字与服务内容的设计订制,以对应不同国家地区用户的使用习惯偏好,除了让当地车主更能清楚理解车辆功能,也能进一步提高品牌满意度。客户问题与难处某车厂客户预计在台湾市场推出新一代车款,却由于车机导航开发人
    百佳泰测试实验室 2025-01-09 17:47 117浏览
  • 职场是人生的重要战场,既是谋生之地,也是实现个人价值的平台。然而,有些思维方式却会悄无声息地拖住你的后腿,让你原地踏步甚至退步。今天,我们就来聊聊职场中最忌讳的五种思维方式,看看自己有没有中招。1. 固步自封的思维在职场中,最可怕的事情莫过于自满于现状,拒绝学习和改变。世界在不断变化,行业的趋势、技术的革新都在要求我们与时俱进。如果你总觉得自己的方法最优,或者害怕尝试新事物,那就很容易被淘汰。与其等待机会找上门,不如主动出击,保持学习和探索的心态。加入优思学院,可以帮助你快速提升自己,与行业前沿
    优思学院 2025-01-09 15:48 151浏览
  • HDMI 2.2 规格将至,开启视听新境界2025年1月6日,HDMI Forum, Inc. 宣布即将发布HDMI规范2.2版本。新HDMI规范为规模庞大的 HDMI 生态系统带来更多选择,为创建、分发和体验理想的终端用户效果提供更先进的解决方案。新技术为电视、电影和游戏工作室等内容制作商在当前和未来提供更高质量的选择,同时实现多种分发平台。96Gbps的更高带宽和新一代 HDMI 固定比率速率传输(Fixed Rate Link)技术为各种设备应用提供更优质的音频和视频。终端用户显示器能以最
    百佳泰测试实验室 2025-01-09 17:33 192浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦