在玉門市昌馬鄉水峽村西面緊靠村莊的地方，坐落著一座南北走向的約50米的山崖，山體南北長約500米。昌馬石窟，就坐落在這高高的山壁的最中央，離地面約25米。從石窟向南到昌馬鄉政府約5公里，從石窟向北到玉門鎮及312國道約70公里。一般認為，敦煌石窟包括敦煌莫高窟、安西榆林窟和玉門昌馬石窟。所以說，昌馬石窟是敦煌石窟的重要組成部分，是莫高窟和榆林窟的姊妹窟。昌馬石窟開鑿于五代宋初，后歷元明又有續鑿和修復。原有石窟共計24座，分為上窖石窟和下窖石窟，分布在昌馬鄉水峽村的上窖山和下窖山一帶。1932年12月25日8時45分，昌馬盆地發生了一起震級為7.7級的強烈地震，震中在昌馬盆地朱家戈壁一帶，造成昌馬盆地死亡270人、傷300多人、死傷牲畜100多頭、約87%的民房倒塌的巨大損失。就在這次大地震中，昌馬上窖石窟的12座洞窟全部被震塌，石窟中的壁畫、彩塑等各種文物被全部損毀。昌馬下窟石窟的大多數洞窟也被這次大地震損毀，只有4座洞窟幸存，這就是我們今天看到的昌馬石窟的4座洞窟。
2019年10月7日，昌馬石窟入選第八批全國重點文物保護單位名單。