2024年3月,我作为网络规划设计师参与了某大型制造企业新数据中心机房建设项目,主要负责需求分析,网络架构,机柜与布线,供配电,制冷,安全及监控系统的总体规划。该企业原数据中心机房建设时间较早,随着ERP,MES,OA,数据库,视频监控及虚拟化平台不断扩展,逐渐出现机柜空间不足,供电冗余不够,局部热点明显,布线混乱以及环境监控不完善等问题。未满足未来五年以上业务发展需求,企业决定建设新的数据中心机房。
针对上述问题,我们按照安全可靠,节能高校,分区清晰便于扩展,统一运维的原则进行建设。供电系统采用双路市电,ups,双PDU和服务器双电源设计;制冷采用精密空调和冷热通道组织气流;网络采用核心与接入分层架构,并通过双链路和链路聚合提高可靠性;综合布线采用强弱电分离和分层管理;同时建设消防,门禁,视频监控和动力环境监控系统。项目完成后,新机房顺利承载企业核心业务,供电,制冷,网络,综合布线,安全及运维设计。
一.项目背景及建设要求
该企业是一家大型制造企业,拥有总部,研发中心和两个生产基地,员工约为3000人.原数据中心部署ERP,MES,OA,数据库,文件共享,虚拟化平台和视频监控等业务系统,是企业生产经营的重要基础设施。
原机房已经运行多年,随着服务器,存储和网络设备的不断增加,逐渐暴露出多个问题。
首先,原机房机柜数量接近饱和,新业务上线经常需要临时调整设备位置。
其次,部分服务器采用单路供电,UPS容量预留补不足,一旦供电设备故障,可能影响核心业务。
第三,高密度服务器增加后,局部机柜温度明升高原有普通空调难以准确控制温湿度。
第四,强电线缆,网络线缆和光纤经过多次扩容后比较混乱,给运维和故障定位带来困难。
第五,原机房对温度,漏水,UPS,电池和空调等运行状态缺少统一监控。
因此企业决定建设新的数据中心机房,并将原有和兴业务逐步迁移到新的机房。
经过需求分析,我们确定了可靠供电,合理制冷,网络冗余,安全可控,便于扩展集中监控的总体建设原则。
二.机房总体布局设计
机房建设首先要解决空间和功能分区问题。
根据设备规模和未来扩展需求,我们将机房划分为为主设备区,网络区,供配电区,监控区和辅助区域。
服务器,存储和网络设备统一安装在标准机柜中,不再采用设备随意摆放的方式。
机柜按照冷热通道方式排列,使设备前部统一吸入冷空气,后部排除热空气,减少热气流混合。
对于网络核心设备,服务器和存储设备,我们尽分区部署,既便于布线,也便于后期维护。
同时预留一定数量空机柜和机柜位置,不把当前设备全部排满,使未来业务扩容可以直接增加设备,而不需要再次大规模改造机房。
在机房装修方面,采用防静电地板,防火材料和可靠接地系统,并根据设备承重要求核算地板和机柜承载能力。
通过统一布局,使机房从过去设备放得下转变为结构清晰可维护可扩展。
三.供配电及UPS系统设计
供电可靠性是数据中心机房建设的核心内容之一。
企业ERP,MES等系统要求长期稳定运行,如果电力系统存在单点故障,即使服务器本身性能再高,也无法保证业务连续性。
因此本项目采用双路市电作为主要输入电源,再市电异常时由UPS提供不间断电源保障。
整体供电结构为:
双路市电-配电系统-UPS-输出配电柜-机柜PDU-服务器双电源
对于核心服务器,存储和网络设备,均要求配置双电源模块,分别接入不同PDU.
这样,当某一PDU,ups输出或设备电源模块故障时,另一条供电路径人能够维持设备运行。
UPS容量设计时,我们不仅考虑现有负载,还预留一定扩展空间,并根据核心业务要求配置相应电池后备时间。
同时对UPS输入,输出,电池状态和负载率进行实时监控。
项目实施中我们特别强调:双电源设备必须真正接入不同电源路径,如果两个电源模块最终人链接再同一PDU,就无法真正消除供电单点故障。
因此,供电可靠性的核心不是设备数量多,而是从市电,UPS,PDU一致到服务器形成完整的冗余链路。
四.制冷与机房环境设计
随着服务器功率提高,数据中心制冷问题越来越重要。
原机房采用普通空调,温度控制不均匀,部分高密度机柜经常出现局部热点。
新机房采用精密空调,并结合冷热同都设计组织气流。
服务器前部面向冷通道,从冷通道吸入低温空气;设备后部面向热通道,将高温空气排除,再由空调系统进行处理。
这种方式减少冷热空气混合,提高制冷效率。
但对于高功率机柜,我们重点监控进风温度,必要时调整设备分布,避免高高功率服务器集中再同一区域。
同时在机房不同位子部署温度传感器,实施检测环境变化。
空调系统同样考虑冗余能力。当一台空调设备能故障或进行维护时,其他设备人能够承担基本制冷需求。此外,机房涉资漏水检测系统,对空调和可能出现水源的位置进行重点监测。
通过精密空调,冷热通道和环境监测相结合,设备因过热导致故障的风险。
五.网络架构及综合布线设计
新机房不仅要解决空间和供电问题,还要承载企业所有核心网络业务。
我们采用核心与接入接入分层的网络架构。
核心区部署两台高性能核心交换机,服务器接入浇交换机通过双链路分别连接两台核心设备。
重要服务器和虚拟化主机采用双网卡上联,并通过链路聚合或网卡绑定提高带宽和可靠性。
服务器区,数据库区,管理区,备份区等根据业务划分不同Vlan通过核心交换和防火墙实施访问控制。
综合布线采用光纤和铜缆相结合方式。服务器普通千兆接入使用铜缆,高带宽服务器和存储网络根据实际需要使用万兆或更高速光纤。
在机柜内部和机柜之间统一使用配线架进行管理,并对每条链路进行编号和标签标识。
强电线缆和弱电线缆分开敷设,网络光纤,铜缆和电源线尽量采用不同走线通道,减少干扰和维护风险。
过去原机房出现过拨错网线问题,因此新机房建设中特别建立设备端口,配线架端口和业务之间的对应关系表。
这样网络故障发生后,管理员能够快速定位具体链路和设备。
六.消防,接地及物理安全设计
设局中心内部部署大量高价值设备,因此机房物理安全同样重要。
消防方面,我们采用适合机房环境的自动报警和灭火系统,并设置烟感和温感探测器。
机房发生火灾异常时,系统能够及时警告并按照照预案进行处置。
考虑电子设备特点,灭火系统选择不会普通喷水喷淋那样直接损坏大量IT设备的方式。
接地方面,对机柜,配电设备和金属结构进行统一接地,并建设防雷和等电位连接系统,降低雷击和静电对设备造成的影响。
机房入口部署门禁系统,仅授权人员可以进入。
重要区域配置视频监控,对人员进出和操作过程进行记录。
第三方维护人员进入机房时,需要经过审批和等级,并由内部人员陪同,避免未经授权人员直接接触核心设备。
通过消防,门禁,监控和接地等措施,形成数据中心的基础物理安全体系。
七.动力环境监控及运维设计
原机房的一个突出问题是,大部分基础设施只有发生故障后管理员才知道。
因此新机房建设统一动力环境监控系统。
监控平台重点采集UPS状态,配电参数,空调运行状态,机房温湿度,漏水,烟感,门禁等信息。
当UPS电池异常,机房温度过高,空调故障或发生漏水时,平台自动产生告警,并通知值班人员。
网络侧则通过网管平台监控核心交换机,接入交换机,服务器接口和链路利用率。
这样形成IT设备监控机房基础设施监控相结合的运维体系。
同时建立设备巡检制度,对UPS电池,空调,消防,机柜和网络设备定期检查。
对于核心设备的配置变更要求做好备份,并建立故障应急预案。
机房运维不再只关注服务器和交换机,而是将供电,温度,网络和安全作为统一系统进行管理。
八.项目实施中的问题及解决措施
项目实施过程中,我们也遇到了一些实际问题。
首先是设备迁移期间业务中断风险较大。
原数据中心承载ERP和MES等生产系统,不能一次性全部停机迁移。因此我们采用分批次迁移方式,先迁移测试和普通业务,验证新机房供电,网络和存储稳定后,再选择业务低峰期迁移核心系统。
每次迁移前均完成数据备份并制定回退方案。
第二个问题是部分高密度机柜上线后温度偏高。
通过环境监控发现,该区域多个高功率服务器集中部署,造成局部热量较大。
我们重新调整服务器再机柜中的位置,并优化空调送风和通道封闭,温度恢复正常。
第三个问题是部分旧服务器虽然具有双电源,但迁移后两个电源误接到同一PDU。
检查发现后,我们重新梳理供电路径,并通过不同标签区分A,B两路电源。
这也说明,冗余设计不仅要画在方案中,还必须实际实施中真正落实。
九.项目效果及总结
经过近八个月建设和分阶段迁移,新数据中心机房顺利投入使用。
项目完成后,核心服务器,存储和网络设备实现较规范的机柜化部署,双路供电,UPS,双PDU和设备双电源提高了供电可靠性;精密空调和冷热通道改善了机房制冷效果;双核心和双链路设计提高了网络可靠性;统一综合布线使机房结构更加清晰。
动力环境监控系统上线后,管理员可以实时了解UPS,温度,空调和漏水状态,使机房运维由被动处理逐渐向主动监控转变。
整个项目基本满足企业未来几年的业务增长和设备扩容需求。
但项目存在不足。一是随着AI和高性能计算设备增加,未来单机柜功率密度可能进一步提高,传统风冷之压力增大,后续可根据业务发展研究也冷等新型制冷技术。二是目前异地容灾能力任然有限,后续计划逐步完善通城或异地灾备系统。三是基础设施监控和网络监控人属于不同平台,未来应进一步推进统一运维。
通过本项目,我认识到,企业数据中心机房建设并不是简单建设一个放置服务器的房间,而是一项涉及供配电,制冷,网络,布线,消防,安全和运维的系统工程。
只有围绕核心业务连续性,从基础设施到IT网络进行整体规划,并在可靠性,扩展性,节能和成本之间取得平衡,才能建设真正安全,稳定,高i下的数据中心机房。