А.А. Зимин исследовал историю «Краткого собрания» ханских ярлыков, в том числе определявших взаимоотношения Русской церкви и монгольских властей, уточнил датировку отдельных документов и всей коллекции. Вместе с изданием «Акты социально-экономической истории Северо-Восточной Руси конца XIV – начала XVI в.» (М., 1952–1964 гг. 3 т.) названные публикации составили прочный фундамент для изучения средневекового периода истории Русской церкви. А.А. Зимин был редактором и составителем многих других сборников исторических документов, сопровождавшихся его статьями и комментариями. Публикация источников привела его к разработке ряда вопросов дипломатики и генеалогии, в том числе в сфере церковной истории. Перу исследователя принадлежат многочисленные источниковедческие статьи, в том числе посвящённые церковным документам: «Актовые подделки Троице-Сергиева монастыря 80-х гг. XVI в.», «Переписка старцев Иосифо-Волоколамского монастыря с Василием III», «Выпись о втором браке Василия III» и др. В 1963 г. А.А. Зимин подготовил к изданию хронологический перечень актов архива Евфимиева суздальского в честь Преображения Господня мужского монастыря, на основе данного перечня в 1998 г. были опубликованы грамоты обители за 1506–1608 гг. (в последние годы жизни А.А. Зимин обратился к изучению жалованных грамот Спасо-Евфимиева монастыря). Методику генеалогического анализа он активно использовал при комментировании актов, изучении княжеской и боярской аристократии, монашества, дьячества и других социальных слоёв русского средневекового общества. В начале 1950 гг. А.А. Зимин читал курс дипломатики в Историко-архивном институте, приобщил к её изучению Сергея Михайловича Каштанова. Общие вопросы церковной истории не входили в сферу научных интересов А.А. Зимина, что не помешало ему во многих статьях и монографиях исследовать отдельные аспекты церковной жизни, преимущественно в XVI в. Оставаясь в рамках советской исторической терминологии, он в своих работах сумел нарисовать широкое полотно политической и духовной жизни России; всеобъемлющее использование научной литературы и источников придаёт многим его наблюдениям фундаментальный характер. На протяжении всей научной деятельности в поле внимания А.А. Зимина находились вопросы, связанные с историей Иосифова Волоколамского монастыря. Кандидатская диссертация (6 томов текста и приложений) была написана учёным по рукописным материалам пяти архивных хранилищ страны, а также по спасённым А.А. Зиминым двум хозяйственным книгам монастыря. В 1953 г. увидела свет статья «О политической доктрине Иосифа Волоцкого», впоследствии были опубликованы статьи: «Из истории собрания рукописных книг Иосифо-Волоколамского монастыря», «Вкладные и записные книги Волоколамского монастыря XVI в.». В монографии, посвящённой Волоколамскому монастырю, А.А. Зимин впервые рассмотрел основной состав вкладчиков, братии, слуг и «детёнышей» обители с точки зрения их социального происхождения, в значительной степени повлиявшего на позицию духовной корпорации и в политической жизни, и в идеологической борьбе. Он подробно описал жизнь и творчество Иосифа Волоцкого, историю строительства Волоколамского монастыря учёный дополнил анализом двух редакций общежительного устава, составленного преподобным Иосифом.