В.А. Косяков сообщал, что решётчатыми фермами были усилены подпружные арки, переустроены барабан и купол для более удачного распределения нагрузки верхних частей сооружения, при этом верхнюю часть здания пришлось разобрать. В 1896–1897 гг. В.А. Косяков спроектировал для храма новый иконостас. Ряд работ был осуществлён В.А. Косяковым в соавторстве с братьями – гражданским инженером Владимиром Антоновичем Косяковым (1866–1922 гг., выпускник Института гражданских инженеров) и академиком архитектуры Георгием Антоновичем Косяковым (1872–1925 гг., окончил Академию Художеств). Церковные сооружения В.А. Косякова чаще всего выполнены в эклектичной византийской или «московско-ярославской» (как и у его учителя Н.В. Султанова) стилистике. Иссле5дователи  отмечают, что для В.А. Косякова характерно соединение архаичных суховатых «древнерусских» форм фасадов, коврового заполнения их дробным, но отличающимся высоким художественным качеством декором в духе «узорочья» и прогрессивных материалов и конструкций, прежде всего, железобетона, в проектировании интерьеров (например, конструкция свода из перекрещивающихся арок, позволяющая создать пространство без внутренних опор). В декоре В.А. Косяков отказался от традиционной для эклектики штукатурки в пользу долговечных и разнообразных по фактуре материалов: лекального кирпича, гранита, радомского песчаника, изразцов, бетона. К штукатурному декору он возвратился в последних своих церковных проектах, но трактовал его уже в модернизированных псковско-новгородских формах. В качестве прообразов церковных проектов В.А. Косяков также использовал форму памятников византийской архитектуры, в последних проектах – элементы модерна. Первой храмовой постройкой В.А. Косяков стала церковь в честь иконы Божьей Матери «Милующая» в Галерной гавани в память коронования императора Александра III и императрицы Марии Фёдоровны (Санкт-Петербург, Большой проспект Васильевского острова, 100; 1889–1898 гг.). Проект трёхпрестольного храма в византийском стиле на 1800 человек был разработан В.А. Косяковым совместно с гражданским инженером Дмитрием Константиновичем Пруссаком в 1888 г. В данном проекте В.А. Косяков развил тип тетраконха – однокупольного византийского храма с четырьмя апсидами, возрождённый Давидом Ивановичем Гриммом и Романом Ивановичем Кузьминым в 1850 гг. Главный престол был освящён епископом Вениамином (Муратовским) в сослужении с Иоанном Кронштадтским 25 октября 1898 г., придел во имя Сергия Радонежского и Феодосия Черниговского – 28 марта 1900 г. Храм был закрыт в 1932 г., богослужения возобновлены в 2008 г. (предполагается восстановление здания). В 1889 г. В.А. Косяков спроектировал памятник в честь чудесного спасения царской семьи в железнодорожной катастрофе на станции Борки в селе Высоком на Волыни, в том же краю, в селе Пилипы, – часовню. Также в память о «чуде в Борках» В.А. Косяков построил квадратную в плане часовню с шатровым верхом в честь иконы Божьей Матери «Милующая» при церкви князя Александра Невского, относившейся к Санкт-Петербургскому морскому госпиталю (Старо-Петергофский проспект, 9 (1891 г., не сохранилась)).