从少林寺塔林北行约一公里，就到达初祖庵。它三面临壑，背连五乳峰，景色宜人。诗人温如璋称道："晓登初祖庵，步入青山顶。草露邑轻裳，人天分异境。"初祖庵大殿面阔、进深各3间，建筑面积l18平方米，创建于北宋宣和七年(1125年)，是河南现存最古老的、价值最高的一所木结构建筑。整个大殿除了石柱、石护脚外，均为木结构。其据柱、角柱和柱间，各施有柱头辅作、转角铺作和补间铺作。柱头铺作使用圆栌枓和讹角科。转角铺作和补间铺作均使用方栌枓。明间前后各为两铺作，其他各间均为一铺作。四角的转角铺作由三架料拱组成，呈辐射状。殿的周檐共使用有两条科拱26组。枓拱上面均使用批竹单昂和三重拱，拱上使用小枓13个。枓拱的昂尾很长，叫做"通昂"，可以斜上通入殿用，用一架拱和一个小科把昂尾卡于下平檩之下，角梁后尾伸入相邻两组枓拱后尾的交叉处下面，使房顶重量可以得到平衡。这样，既减轻了房搪的下压力，把房檐重心放在枓拱上，又克服了房檐下垂的缺陷。经过800年之久，大殿房檐齐整如初，说明宋代建筑技术上能较好地运用力学原理，发挥科拱大、昂尾长的实用性，使建筑美观坚固。

现在初祖庵彻底改为少林寺的尼姑庵，几位尼姑在这里学习佛经，过着晨钟暮鼓的清净生活。有时，她们也学些武功，以健体防身。