黄山的主体是花岗岩。在距今约1.2亿年前的白垩纪，黄山地区地下岩浆上涌，在离地面7-8千米的深度冷却凝结，形成了一块巨大的花岗岩体，为黄山地貌的形成奠定了基础。黄山花岗岩地貌从地貌类型和形成年代上，可以分为两类。

一种是黄山花岗岩体暴露在地表的初期形成的，那时地壳比较稳定，气候比较温暖，因此形成了地形比较平坦，山坡比较平缓，山峰比较圆润的地貌景观。

第二种是黄山花岗岩体暴露在地表后，地壳拾升加快，河流下切加速，形成了峡谷、高陡边坡的尖峰等新近地貌。