После смерти отца в 768 г. Карла вступил на престол, разделив наследство с братом: Карл был возведён на трон в Нуайоне, а Карломан – в Суасоне. Подробности раздела территории державы Пипина III Короткого между его сыновьями исследователям неизвестны. По мнению совресенных исследователей, Карлу досталась часть центрально-германских земель (Тюрингия, Гессен), земли вдоль побережья Северного моря и Ла-Манша (северная часть Нейстрии), побережье Аквитании и Гаскони, в то время как Карломану отошли центральные области королевства – основная часть Нейстрии, Австразия, Бургундия, внутренние области Аквитании, Прованс и др. Отношения между Карлом и Карломаном, которых поддерживали разные группировки франкской знати, оставались напряжёнными. В 769 г. Гунальд, сын аквитанского герцога Вайфария, возмущённый разделением Аквитании между двумя франкскими королями, поднял восстание. Карл решительно выступил против восставших западных аквитанцев и гасконских басков, хотя и не получил от Карломана обещанной военной поддержки. С большим войском король перешёл реку Дордонь, разбил мятежников, основал крепость Фронсак и принудил Лупа, герцога Гаскони, выдать бежавших к нему Гунальда с супругой. В результате успешной военной операции Аквитания перешла под власть Карла, спустя десятилетие была интегрирована в состав Франкского королевства и лишилась былой политической самостоятельности. В первые годы правления Карла большое влияние на внутреннюю и внешнюю политику оказывала его мать, Бертрада. Поддерживая стремление сына к распространению влияния франков на сопредельные территории – Северную Италию и зарейнскую Германию, она делала ставку на укрепление династических связей. По её настоянию в 770 г. Карл женился на Дезидерате, дочери короля лангобардов Дезидерия (756–774 гг.). Дезидерий приходился тестем баварскому герцогу Тассилону III (748–788 гг.), а тот, в свою очередь, был дядей Карла и Карломана. Таким образом, брак Карла способствовал созданию династического альянса, представлявшего угрозу влиянию Римского папы в этом регионе. После скоропостижной смерти Карломана (декабрь 771 г.) Карла унаследовал земли брата (дети Карломана были лишены прав на эту часть королевства). Вдова Карломана, Герберга, вместе с сыном Пипином нашла убежище при дворе короля Дезидерия, который, опасаясь политического усиления Карла, потребовал от папы Римского Адриана I (772–795 гг.) совершить коронацию Пипина. После отказа понтифика сделать это лангобардское войско стало разорять папские владения. Карла добился аннулирования брака с дочерью Дезидерия, женился на Хильдегарде, внучке герцога алеманнов Готфрида, а затем по просьбе папы Римского возглавил поход франков против короля Дезидерия. Карл Великий продолжил активную завоевательную политику своих предшественников. Как правило, одновременно велось несколько войн, кроме того, на приграничных территориях Франкской державы (в Баварии, в Бретани, во Фризии, в Северной Испании, на славянских землях, на границах с племенами данов и с Византией) постоянно происходили мелкие столкновения. Войны носили сезонный характер: активные боевые действия велись, в основном, с конца весны по начало осени, затем войско возвращалось домой зимовать.