Roma İmparatorluğu'nun 395'te ikiye ayrılmasıyla Kapadokya Doğu Roma Devleti yani Bizans’ın hakimiyeti altına girmiştir. Bizans döneminde Kapadokya Anadolu'nun iki piskoposluk merkezinden biri olmuştur. Aynı zamanda üç büyük azizin memleketi olarak da bilinir. Bunlar, Kayseri Başpiskoposu Büyük Basil, Kardeşi Nissalı Gregory ve Naziruslu Gregory'dir. Aziz Basil kaya kiliselerin ve manastırların kurucusudur.

Bizans'ın ilk yıllarında bölge sakin bir dönem yaşamıştır. İmparatorluğun sınırlarının Kafkasya'ya kadar uzandığı düşünülürse, Kapadokya ve çevresi coğrafi bakımdan merkez durumundadır. Bölge halkı bu dönemde Helen-Roma fikirlerinden ziyade İran'ın etkisi altında kalmıştır. Doğu'dan güçlü Arap ve Sasani akınları başlamış, İmparator Heraclius Anadolu'nun önemli kısmını askeri eyaletlere ayırmıştır. Kapadokya da bu eyaletlerden biridir. İmparatorluğun Doğu bölgelerinin işgal altında kaldığı, Hakiki Haç'ın Kudüs'ten kaçırılıp tekrar geri alınarak Kudüs'e götürüldüğü, savaşların aralıksız devam ettiği bu kargaşa döneminde Derinkuyu ve Kaymaklı gibi düz ovalarda yaşayan halk yeraltı şehirlerine, dağlık kesimlerde yaşayanlar ise kaya kilise ve hücrelere sığınmıştır.

Bizans Devleti M.S. 574 senesinden itibaren aralıklarla tekrarlanan Pers saldırıları ve  642 yılından itibaren Müslümanların akınları takip eder. M.S. VII. yüzyılda başlayan Müslümanların İstanbul'u fethetme yolculuğu IX. yüzyıla kadar sürmüş, yol üzerinde bulunan Kayseri her seferinde Müslümanların hâkimiyetine girmiş, sonra tekrar Bizanslılara geçmiştir.

İslâm ordularının Anadolu seferleri toplam dokuz seferdir. Hatta 732 yılındaki seferde bulunan Seyyid Battal Gazi'nin bir müddet kaldığı Kayseri'de adına bir mescit yaptırıldığı ileri sürülmüştür. Arap kumandanı Abdülmelik oğlu Hişam'ın 726, sonra Hişam oğlu Seyyid'in 729, Hişam oğlu Süleyman'ın 732'deki seferleri ile Kayseri işgal edilmiştir.

Ayrıca bu dönemde uzun süredir devam eden mezhep çatışmaları iyice artmış, İmparator III. Leon'un ikonları yasaklamasıyla ikonoklastik dönem başlamıştır (726-843). Önce, Hıristiyanlara baskı yapan Sasanilerin ve din büyüklerinin tasvirine karşı olan Arapların saldırıları nedeniyle ikona yanlısı keşişler, Göreme, Ürgüp ve Avanos çevresindeki kayalık, kuytu bölgelere sığınmışlardır. İkon kırıcı akımın Bizans'ta güç bulmasıyla taşlardan oyulmuş manastır ve kiliselere sığınanların sayısı da artmıştır. Bu dönem, İmparatoriçe Thedore'un ikonları tekrar serbest bırakmasıyla son bulmuştur.

IX ve X. yüzyıllarda Kapadokya bölgesi önemli bir manastır yerleşimine sahne olmuştur. Bu dönemde kuzeyde Pontus Krallığı'nın elinde olan Hıristiyanlık merkezleri Kapadokya'ya kaymıştır.

Bu dönem aynı zamanda, rahipler ile Bizans imparatorları arasında mülkiyet ve iktidar mücadelelerinin kızıştığı bir dönemdir. Bu mücadelenin nedeni, manastır rahiplerinin bağış toplaması sonucu imparatorun hazinesinin küçülmesi, ordunun askersiz ve ikmalsiz kalması ve manastır mülkiyetini sınırlama yoluna gitmesidir. Bütün bu iç çekişmeler Bizans'ın Orta ve Doğu Anadolu'yu kolayca kaybetmesine zemin hazırlamıştır. Sonraki yıllarda Bizans Devleti'ndeki taht kavgaları Türk güçlerinin hakimiyetini artırmıştır.

Ancak Oğuz Türklerinin, nizami Bizans ordularıyla başa çıkması yine de çok kolay olmamıştır. İlk olarak 1064 yılında Kayseri ve Nevşehir yönüne doğru ilerledilerse de yenilgiye uğrayıp, geri çekilmek zorunda kalmışlardır. Bu tarihten sonra Alparslan'ın komutanlarından Afşin Bey Bizanslıları yenilgiye uğratıp bölgeyi ele geçirmiş, ama bu durum uzun sürmemiştir. Anadolu'nun kapıları Türklere 1071 Malazgirt Savaşı ile açılmıştır.