Abuna Yemata Guh, 5. yüzyılın sonlarında Hıristiyanlığın ülke çapında yayılmasına yardımcı olan çalışmaları nedeniyle, Etiyopya Kilisesi'nin Dokuz Azizinden biri olan Abuna Yemata'nın anısına inşa ediliyor.
Kilise uzak konumu ve dik kayalıklara kazınmış olması nedeniyle gezgin keşişler ve dindar Hıristiyanlar tarafından ziyaret ediliyor .Bu durum, içeride bulunan sanat eserlerinin çoğunun neredeyse bozulmamış durumda kalmasına olanak sağlıyor.
Bu kilisenin beşinci yüzyılda inşa edildiği öne sürülse de hakkında net bilgi bulunmuyor. Deniz seviyesinden yaklaşık 2.580 metre (8.465 feet) yüksekliğe yerleşmiş olan bu kiliseye ulaşmak için dik bir uçuruma tırmanmak gerekiyor.