Путешественники XVII–XIX вв. одной из особенностей города называют большое количество храмов. Так, упоминание в середине XVII в. Эвлией Челеби 70 церквей вполне соответствовало реальности. В основном, храмы представляли собой однонефные и иногда трёхнефные базилики; кроме того, в городе есть триконх (церковь Панагии Кумбелидики). Трёхнефные базилики (первомученика Стефана, св. Бессребреников и св. Таксиархов у Митрополии) отличались небольшой длиной и значительной высотой центрального нефа с окнами клеристория; внутреннее пространство отчасти похоже на пространство купольных или сводчатых храмов. Однонефные храмы византийского и поствизантийского времени, как правило, имеют небольшие размеры. Для византийских храмов Кастории характерно применение смешанной кладки с чередованием рядов неотесанного камня или камня со скруглёнными углами и рядов плинфы с толстым слоем раствора с кирпичной крошкой; иногда вертикально положенные кирпичи создают обрамление вокруг блоков камня. Декоративные элементы из кирпичей, выложенные из плинфы профили дверных и оконных проёмов придают зданиям живописный облик. Среди самых распространённых мотивов – поребрик, аркатурные пояски, нередко ниши с образами святых, написанных в тимпанах арок. Часто для украшения стен использовались керамические плитки разнообразной формы. Храмы поствизантийского времени мало отличаются от современных им жилых домов и выглядят очень скромно. Большинство храмов построено из неотёсанных камней с применением деревянных связей. В них маленькие окна и двери с низкими притолоками, уровень пола часто ниже уровня почвы. Исторических сведений о времени и об обстоятельствах строительства церкви первомученика Стефана, что в северо-восточной части города на небольшом холме. Исследователи датируют создание церкви (украшения нет), а также первого слоя росписи IX или началом X вв., второго слоя – рубежом XII и XIII вв., ещё несколько изображений в разных частях здания – XIII и XIV вв. Церковь представляет собой короткую трёхнефную базилику с довольно правильным и симметричным планом. Главный неф с очень высоким клеристорием отделён от боковых нефов стенами с двумя симметричными проёмами. Он заканчивается апсидой, трёхгранной снаружи и полукруглой внутри, в которой сохранились остатки синтрона. Это позволяет исследователям предположить, что церковь была соборной. Алтарь отделён от наоса низким встроенным темплоном, по мнению исследователей, изначальным, о чём свидетельствуют фрагменты живописи. Нартекс занимает всю ширину западной стороны церкви. Три двери с арочными завершениями ведут из нартекса в наос. Отсюда же по узкой лестнице можно подняться на хоры, южная часть которых оформлена как небольшой придел (аскитарий), посвящённый праведной Анне. Эта галерея с приделом над нартексом не имеет аналогов в Кастории. Боковые нефы и нартекс перекрыты полуцилиндрическими сводами, а хоры над нартексом – четвертным сводом. Стены боковых нефов внутри обозначены плоскими нишами. Снаружи таких ниш нет, что отличает церковь первомученика Стефана от других касторийских храмов. Кладка стен выполнена в смешанной технике из блоков камня, «обрамлённых» кирпичами. Архивольты окон и дверных проёмов имеют обрамления из плинфы. По сторонам окна над апсидой из кирпича выложены две крупные розетки.