北魏，云冈石窟的开凿从文成帝和平初(460年)起，一直延续至孝明帝正光五年(524年)止，前后60多年。此后的东魏、北齐、隋及初唐，平城改为云中郡恒安镇治。
唐代，据金皇统七年(1147年)曹衍撰《大金西京武州山重修大石窟寺碑记》载："贞观十五年(641年)，守臣重建";唐慧祥撰《古清凉传》卷上(古今胜迹三)记载，当时有一位俨禅师"每在恒安修理孝文石窟故像……以咸亨四年(673年)终于石室"。初唐以后，平城呈现萧条景象，云冈石窟的建设因受多方面因素的影响未有大项工程。
辽金，辽兴宗、道宗时期，辽皇室曾对武州山石窟寺进行过延续十年之久的大规模修整。修建了石窟前接木构窟檐的通乐、灵岩、鲸崇、镇国、护国、天宫、崇福、童子、华严、兜率十座大寺，并对一千余尊佛像进行了整修。辽保大二年(1122年)金兵攻占大同，"寺遭焚劫，灵岩栋宇，扫地无遗"(《大金西京重修华严寺碑》)。金皇统三年至六年(1143-1146年)，住持法师禀慧重修"灵岩大阁"(今第三窟外的阁楼)，"自是，山门气象，翕然复完矣。"(《金碑》)。
元代，武州山石窟寺庙院尚存。
明代，大同云冈再度荒废。云冈之称始于明嘉靖年间，明末崇祯十七年(1644年)李自成起义军路经大同，留部将张天琳驻守后清军入关攻占大同，云冈寺院再遭兵燹，沦为灰烬。
清代，清顺治八年(1651年)云冈寺院得以重修。现存第5、6窟的木构窟檐和寺院即为此时重建。1696年，康熙皇帝于冬日回銮巡幸云冈寺并御书匾额"庄严法相"。清乾隆年间云冈石窟亦曾有修葺。
近代，1949年中华人民共和国成立，云冈石窟的主要洞窟和窟前木结构建筑(第5、6、7窟)均保存完好。1952年设置专门保护机构，石窟文物得以妥善保护，并对公众开放。
