冰雹和雨、雪一样都是从云里掉下来的。不过下冰雹的云是一种发展十分强盛的积雨云，而且只有发展特别旺盛的积雨云才可能降冰雹。
积雨云和各种云一样都是由地面附近空气上升凝结形成的。空气从地面上升，在上升过程中气压降低，体积膨胀，如果上升空气与周围没有热量交换，由于膨胀消耗能量，空气温度就要降低，这种温度变化称为绝热冷却。根据计算，在大气中空气每上升100米，因绝热变化会使温度降低1度左右。我们知道在-定温度下，空气中容纳水汽有一个限度，达到这个限度就称为“饱和”，温度降低后，空气中可能容纳的水汽量就要降低。因此，原来没有饱和的空气在上升运动中由于绝热冷却可能达到饱和，空气达到饱和之后过剩的水汽便附着在飘浮于空中的凝结核上，形成水滴。当温度低于摄氏零度时，过剩的水汽便会凝华成细小的冰晶。这些水滴和冰晶聚集在一起，飘浮于空中便成了云。
大气中有各种不同形式的空气运动，形成了不同形态的云。因对流运动而形成的云有淡积云、浓积云和积雨云等。人们把它们统称为积状云。它们都是一块块孤立向上发展的云块，因为在对流运动中有上升运动和下沉运动，往往在上升气流区形成了云块，而在下沉气流区就成了云的间隙，有时可见蓝天。
积状云因对流强弱不同出一辙形成各种不同云状，它们的云体大小悬殊很大。如果云内对流运动很弱，上升气流达不到凝结高度，就不会形成云，只有干对流。如果对流较强，可以发展形成浓积云，浓积云的顶部像椰菜，由许多轮廓清晰的凸起云泡构成，云厚可以达4-5公里。如果对流运动很猛烈，就可以形成积雨云，云底黑沉沉，云顶发展很高，可达10公里左右，云顶边缘变得模糊起来，云顶还常扩展开来，形成砧状。一般积雨云可能产生雷阵雨，而只有发展特别强盛的积雨云，云体十分高大,云中有强烈的上升气体，云内有充沛的水分，才会产生冰雹,这种云通常也称为冰雹云。
冰雹云是由水滴、冰晶和雪花组成的。一般为三层：最下面一层温度在0℃以上，由水滴组成；中间温度为0℃至-20℃，由过冷却水滴、冰晶和雪花组成；最上面一层温度在-20℃以下，基本上由冰晶和雪花组成。
在冰雹云中气流是很强盛的，通常在云的前进方向，有一股十分强大的上升气流从云底进入又从云的上部流出。还有一股下沉气流从云后方中层流入，从云底流出。这里也就是通常出现冰雹的降水区。这两股有组织上升与下沉气流与环境气流连通，所以一般强雹云中气流结构比较持续。强烈的上升气流不仅给雹云输送了充分的水汽，并且支撑冰雹粒子停留在云中，使它长到相当大才降落下来。
在冰雹云中冰雹又是怎样长成的呢?在冰雹云中强烈的上升气流携带着许多大大小小的水滴和冰晶运动着，其中有一些水滴和冰晶并合冻结成较大的冰粒，这些粒子和过冷水滴被上升气流输送到含水量累积区，就可以成为冰雹核心，这些冰雹初始生长的核心在含水量累积区有着良好生长条件。
雹核A在上升气流携带下进入生长区后，在水量多、温度不太低的区域与过冷水滴碰并，长成一层透明的冰层，再向上进入水量较少的低温区，这里主要由冰晶、雪花和少量过冷水滴组成，雹核与它们粘并冻结就形成一个不透明的冰层。这时冰雹已长大,而那里的上升气流较弱，当它支托不住增长大了的冰雹时，冰雹便在上升气流里下落，在下落中不断地并合冰晶、雪花和水滴而继续生长，当它落到较高温度区时，碰并上去的过冷水滴便形成一个透明的冰层。这时如果落到另一股更强的上升气流区，那么冰雹又将再次上升，重复上述的生长过程。这样冰雹就一层透明一层不透明地增长；由于各次生长的时间、含水量和其它条件的差异，所以各层厚薄及其它特点也各有不同。最后，当上升气流支撑不住冰雹时，它就从云中落下来，成为我们所看到的冰雹了。