洛阳是九朝古都，邙山自古便是丧葬宝地。建国以来，考古工作者在洛阳地区发掘出上万座古墓。博物馆中展出的就是其中20余座有价值、有特点的古墓。
博物馆建筑分地上和地下两部分，地上建筑是一座宏伟的仿汉建筑群，分前后两部分：前半部有汉白玉门阙和馆表，表额上“洛阳古墓博物馆”几字是著名考古学家夏鼐先生所题。进去是序墓大殿，殿后为上下墓区厅；后半部主要有四角楼和望景亭。整个建筑黑瓦红墙，楼台亭阁，古色古香。
古墓博物馆地下部分呈正方形棋盘式，设有两汉厅、魏晋厅、唐宋厅和休息厅。厅内展出的每一座古墓的比例、建筑结构都与原墓一样，所用砖、石都是出土的。这些古墓中有一座距今两千年的西汉夫妇合葬墓。墓用印花空心大砖和小砖砌成，分墓道、墓门、耳室、前堂、后室五部分，设计十分精巧。墓中绘有反映汉代人迷信思想的“打鬼图”壁画，还有“孔于师项橐”、“二桃杀三士”、“神虎吃女魃”等历史和神话故事的壁画。
东汉出行图壁画墓是近年发现的一座级别很高的封建官僚墓葬。墓室由磨光大砖砌成，墓室前堂南、西、北三壁均绘有表现墓主人生前出行场面的壁画。画面长12米，宽0.7米，绘有九乘安车、70多个人物、50多匹奔马，场面宏大，栩栩如生。这是研究东汉车骑导从制度和服饰装束的直观实物资料。
西晋时期关内侯裴祗墓，是用大小两种砖混合建成的多室墓，一家祖孙三代4口人同葬其中。从墓志得知裴祗母葬于后室，裴祗及其妻葬于侧室东西，其女葬于耳室。是腥风血雨的“八王之乱”夺去了这一家老小的生命。
唐代定远将军安菩夫妇合葬墓是唯一未被盗过的墓，在墓中众多的珍贵文物中有100多件“唐三彩”，其中天王俑、镇墓兽、马、驼等数十件为国家一级珍品。安菩是西域安国降将，他的墓志弥补了史书记载的不足，对研究唐代与西域的关系有重要价值。
新莽天象壁画墓是郡守一级的官僚贵族墓葬。墓顶绘天体流云日月星辰，四壁绘出梁架柱枋和兽面纹斗拱，整个墓室鲜艳夺目，富丽堂皇。主室两壁共绘16幅壁画、内容多系神话故事，风格古朴、布局严谨，气势深沉宏大，具有很高的艺术价值。
洛阳古墓博物馆面积之大、风格之别致、收集古墓年代之久、类型及数量之多均属世界首位，对研究我国古代史、美术史、建筑史、墓葬形制、丧葬制度及风尚习俗都有重要参考价值。