郑州黄河铁路大桥有新、旧两座。
旧桥原名平汉铁路郑州黄河大桥，黄河大桥之母。是黄河上修建的第一座铁路桥，为单线铁路桥。由当时比利时一家工程公司承建，工程负责人叫沙多。清朝光绪二十六年年1900年选定桥址，桥址选定后，又先后聘请德国、美国和意大利等国工程师进行了现场查勘，1901年完成定测，1902年开始设计，1903年9月开工建设，1905年11月15日竣工，清朝光绪三十二年即1906年4月1日正式通车。
旧黄河铁路大桥全长3015米，是中华人民共和国成立以前最长的桥。旧桥建成时共有102孔，其中26孔位于北端，24孔位于南端，中间浅滩部分有跨长21.5米的上承钢板梁52孔。桥梁基础用内径30厘米、外径35厘米、下端带有直径120厘米螺旋翼的铸钢管桩。
这座桥在战争中也屡遭破坏，位于桥南北两端的第1个桥孔在修复时填塞，桥孔减少为100个，桥的全长也变为2951米。1969年10月在旧桥桥面上加铺了钢筋混凝土板，可以定时单向放行汽车，方便了公路交通。1987年被拆除，只留下5孔桥墩作为文物保存在原址上。
郑州黄河铁路大桥新桥为双线铁路桥。位于旧桥下游，同旧桥的两端分别相距500米和375米。于1958年5月14日开工，1960年4月20日竣工通车。
新黄河铁路大桥全长为2889.8米，分71跨，每跨长40米。双线共用142孔上承钢板梁，从两岸用悬臂式架桥机整孔吊装架设。桥梁墩台和基础均采用两根直径为3.6米的钢筋混凝土管柱，入土深度约30米。墩台直接建筑在管柱上，顶部有横梁相连，形成门式刚构。全桥钢梁总重达12943吨，混凝土用量为60730立方米。
新黄河铁路大桥运营以后，发现河床因淤积而水面逐年升高，为了改善桥下净空，1976年将坡道上的钢梁抬平。为了减少傍岸环流冲刷对桥的北端各墩的影响，1978年、1979年在桥的北端0号台至 7号墩范围内的上游 60米和100米处，加设了由直径1.0米钢筋混凝土钻孔桩组成的桩排，借以消能，缓和水势。
2008年4月11日起，郑州黄河铁路大桥更名为“嘉应观黄河铁路大桥”，嘉应观是清朝时期治理黄河的“黄委会”。新桥名突出了中原灿烂的历史文化和我国治理黄河的悠久历史
