С 19 декабря 1812 г. – начальник артиллерии действующей армии, участвовал в Заграничном походе русской армии 1813–1814 гг. После неудачного сражения при Лютцене (20 апреля 1813 г.) главнокомандующий армией Пётр Христианович (Людвиг Адольф Петер цу Зайн) Витгенштейн необоснованно обвинил А.П. Ермолова в нераспорядительности, переложив на него свою вину за провал операции. А.П. Ермолов был переведён начальником второй гвардейской пехотной дивизии, во главе которой участвовал в Бауценском и Лейпцигском сражениях, битвах под Кульмом (фактически руководил действиями всех русских войск, сменив тяжело раненного корпусного командира Александра Ивановича Остермана-Толстого). Закончил войну под Парижем, где командовал русской и прусской гвардией. Командующий Обсервационной армией на австрийской границе (с мая 1814 г.) и Гренадерским корпусом (с мая 1815 г.), участвовал во втором походе во Францию. В 1816 г. А.П. Ермолов был назначен командиром Отдельного Грузинского (с 1820 г. – Кавказского) корпуса и главноуправляющим гражданской частью в Грузии, Астраханской и Кавказской губерниях, чрезвычайным и полномочным послом в Персии. Во время переговоров с Фетх-Али-шахом сумел отстоять все территориальные приобретения России по Гюлистанскому миру 1813 г., за что был произведён в генералы от инфантерии (1818 г.). Для сохранения Закавказья приоритетной задачей А.П. Ермолов считал фактическое включение в состав империи территории Северного Кавказа, лишь номинально находившейся под российским контролем. Пересмотрел тактику ведения операций и прекратил малоуспешные прямолинейные походы в глубь территории Северного Кавказа, в основном, сопровождавшиеся значительными людскими и материальными потерями. Создал систему фронтального продвижения войск с закреплением на покорённой территории (рубка леса для свободного доступа к аулам, постройка новых укреплений, «выдавливание» противника с одновременным уничтожением непокорных аулов). Применение его тактики в 1850 гг. кавказскими наместниками князьями Михаилом Семёновичем Воронцовым и Александром Ивановичем Барятинским позволило одержать победу над имамом Шамилем. Первоочередной задачей, стоявшей перед корпусом, А.П. Ермолов посчитал прочное закрепление в предгорьях Кавказа и выдвижение российских укреплённых баз ближе к Кавказскому хребту. За несколько лет была создана единая укреплённая линия с востока на запад, от Каспийского моря до современной Назрани: её крепости (Грозная, Внезапная, Преградный Стан, Бурная, Герзель и др.) стали опорными пунктами российских войск в предгорьях Кавказа, ограничивали свободу действий и географию набегов горцев. Одновременная направленная рубка просек с севера на юг должна была обеспечить доступ в глубь Чечни и Дагестана и их блокаду с последующим разделением территорий Северного Кавказа на несколько изолированных зон. Эти блокадные мероприятия А.П. Ермолов сочетал со стремительными внезапными ударами по важным стратегическим пунктам края. Наиболее значимые операции того времени под командованием А.П. Ермолова – победы над аварским ханом Султан-Ахмедом у селения Параул (1818 г.) и союзом акушинских обществ (1819 г.), разгром Сурхай-хана Казикумухского (1820 г.). Эти успехи позволили А.П. Ермолову уже к началу 1820 гг. контролировать значительную часть Дагестана и добиться признания российской власти в большей части чеченских обществ.