沉积岩覆盖着中国地表总面积的 75％，它是原有岩石被破坏后矿物质重新积聚堆积起来，或者是由动植物遗体堆积而成的岩石。大部分沉积岩是在水底环境下形成的，如砂岩、页岩、砾岩、石灰岩等，也有是在大气环境之下由风直接堆积而成的（如黄土）。沉积岩中一般都具有层理和生物化石，这种现象在岩浆岩中是没有的。
由硅质胶结的石英砂岩抵抗侵蚀的能力最强，所以常常构成陡峻的山崖和峭壁。泥质页岩很容易被侵蚀，往往形成低丘和宽谷，如南京宁镇山脉一带的高家边页岩常分布于浅丘和谷地所在地区。砾石经过流水的长途搬运，往往被磨蚀成圆形，经过胶结作用就成为砾岩。如果砾岩中的砾石、沙以及胶结物都是硅质的，那末这种砾岩就特别坚硬。南京紫金山顶上就有硅质的坚硬砾岩覆盖着，紫金山（又名钟山）之所以能巍然屹立，与这种硬岩层的保护作用是分不开的。南京的雨花台有近期形成、未经胶结的厚层砾石的堆积，其中还杂有美丽的玛瑙。
石灰岩主要由碳酸钙组成，其中绝大部分是由沉积在海底的小动物的石灰质介壳、骨骼以及某些石灰质植物的残体经过复杂的变化后形成，以含有机物质的多少形成颜色自浅灰至黑色不等，有时因含其他矿物质而呈淡红、灰白、浅黄或褐色。石灰岩易溶解于酸性的水，所以在湿润地区石灰岩是弱岩；但在干燥地区它却具有很强的抵抗力，甚至超过岩浆岩。这是由于石灰岩成分比较一致，在温度强烈变动条件下，不像岩浆岩那样由于其中所含的各种矿物成分胀缩得不协调而容易崩解。