Территория, на которой расположена церковь, обнесена пятиугольной каменной оградой неправильной формы, построенной в позднее Средневековье. Узкий арочный входной проём расположен в юго-западной стене ограды. Над ним устроена кирпичная колокольня XV–XVIII вв., на втором этаже которой находилось помещение для охраны (сохранились бойницы). Третий этаж выстроен из кирпича; здесь расположена звонница, которая представляет собой связной балдахин на восьми столбах. В северной стене ограды восстановлено помещение, в которое можно попасть с монастырского двора. Кафоликон Кацхи (13,5х12 м, с галереей 19,7х18,4 м; высота 40 м, высота подкупольного пространства 17,5 м) освящён в честь Рождества Христова, боковые приделы – в честь Вознесения Господня (северный) и во имя великомученика Георгия (южный). Это наиболее поздний памятник среди известных исследователям шестиапсидных грузинских храмов (Гогиуба, Киаглис-Алти, Олтиси, Бочорма), развитый композиционно. Кафоликон исследователи относят к редко встречающемуся в церковном зодчестве типу. М.И. Броссе писал, что храм «настолько оригинален, что его сравнивают с раковиной», и его создание можно приписать «только фантазии и капризу зодчего». Общий объём и пространство храма решены в соответствии с нормами грузинской архитектуры X в., однако в пропорциях и организации пространства появляются новые элементы, усиливаются декоративные тенденции. В плане церковь – двенадцатиугольник, восточная грань которого представлена в виде выделенного апсидного полукружия. С севера, востока и юга она вписана в семиугольник окружающей ее обходной галереи. Алтарная апсида удлинена вимой, остальные пять апсид, равномерно распределённых по отношению к подкупольному пространству, соединены с ним. В толще стен расположено пять небольших помещений. Между восточной и северо-восточной апсидами находится жертвенник, вход в него возможен из обеих апсид; между восточной и юго-восточной апсидами – диаконник (вход из юго-восточной апсиды). Помещения также находятся в северной (вход из северо-западной апсиды), в южной (вход из юго-западной апсиды) и в юго-западной (вход из западной апсиды) стенах храма. По мнению исследователей, эти апсидные залы служили миниатюрными часовнями. Диаконник, жертвенник и западное помещение в плане представляют собой круг, два других имеют вытянутую форму. Снаружи храм производит впечатление трёхступенчатого многогранника, где первый, наиболее широкий уровень представлен галереей; второй – 12 гранями церковных стен; третий, наиболее узкий и высокий – 12-гранным барабаном. Каждая грань барабана и церковных стен завершена фронтоном; в галерее фронтонные завершения чередуются с горизонтальными. Исследователи считают, что галерея была задумана изначально, но была построена спустя 30 лет после возведения здания церкви; орнаментация галереи по манере исполнения более живописна и отличается от резьбы храма. Согласно лапидарной надписи, высеченной асомтаврули вокруг рельефа «Вознесение Креста ангелами» в обходе, галерея была построена при жизни Цховребы – дочери эристава эриставов Иване.