Karl Dönitz se narodil 16. září 1891 v Grünau poblíž Berlína jako druhý syn Emila Dönitze a Anny, rozené Beyerové, v luteránské středostavovské rodině. Otec byl inženýr se specializací na optiku a po smrti manželky v roce 1895 vedl striktně pruskou domácnost. Právě v této době se Karl naučil poslouchat a zde se rodil základ pozdějšího vojáka, který plnil veškeré příkazy. Později odešel na studia do Výmaru, kde také v roce 1910 odmaturoval. Téhož roku vstoupil jako kadet do německé císařské námořní akademie v Keilu. V roce 1912 byl přijat už jako praporčík na křižník Breslau. Za své výtečné služby, které odváděl u námořnictva, se dočkal dalšího povýšení, tentokrát už na poručíka. V roce 1914 se dostal do balkánské války v Černém moři a čelil tam tureckému námořnictvu.
V roce 1915 se setkal s dcerou armádního generála Ingeborg Weberovou a o rok později se vzali. Měli spolu celkem 3 děti: Petra, Klause a Ursulu. Oba Dönitzovi synové vstoupili do Hitlerjugend. Od dcery Ursuly se očekávalo, že bude působit v dívčí organizaci Bund Deutscher Mädchen (Liga německých dívek). Ursula z této organizace později vystoupila, protože ani jeden z jejích rodičů nebyl v nacistické straně.
V roce 1916 byl Dönitz povýšen na nadporučíka a přeložen na ponorku U-39. Tato ponorka si postupně získala velkou reputaci pro své přepady spojeneckých lodí. Ještě během války, konkrétně v říjnu 1918, se stal kapitánem ponorky U-68. 4. října 1918, při nočním útoku Britů, byl však zajat i se svou posádkou a rázem se ocitl v anglickém vězení. Zanedlouho byl však propuštěn pro duševní poruchy, které měl údajně jen předstírat. Po repatriaci válečných zajatců, roku 1919, byl Dönitz jedním z mála důstojníků, kteří v německém válečném loďstvu, značně zredukovaném požadavky Versailleské smlouvy, zůstali. Vrátil se opět k námořnictvu, a to konkrétně k flotile torpédoborců ve Swinemünde. Zde ho čekalo v roce 1921 povýšení na kapitána (Kapitänleutnant). V roce 1923 byl za své dobré služby převelen do Kielu k protiponorkovým jednotkám, odkud odešel v roce 1924 do generálního štábu v Berlíně. O tři roky později se mu vyplnil sen a stal se navigátorem na křižníku, za rok byl jmenován velitelem torpédoborce s asi 20 důstojníky a 600 muži na palubě.
V roce 1933 byl vyslán na zahraniční stáž a po svém návratu byl povýšen na fregatního kapitána (Fregattenkapitän). V červenci 1935 ho vrchní velitel námořního loďstva velkoadmirál Erich Reader jmenoval velitelem námořnické eskadry a později mu přidělil velení všech německých ponorek.
Na počátku druhé světové války byla role ponorek v programu vyzbrojování Německa značně podceněna. Německo mělo pouze 22 ponorek pro celý Atlantický oceán. Přesto však Dönitzovy ponorky potopily jen za poslední čtyři měsíce roku 1939 na 114 obchodních lodí. Karl Dönitz změnil taktiku vedení ponorkové války tím, že ponorky seskupil do útočných formací, jejichž cílem bylo potopit nepřátelská plavidla Spojenců. V dalším období války se se svým ponorkovým vojskem zaměřil na izolaci Velké Británie, chtěl zamezit jejímu zásobování po moři. Po srpnu roku 1940, kdy Hitler zrušil předválečná omezení výroby ponorek a dovolil Dönitzovi vést neomezenou ponorkovou válku, Dönitz zvýšil své bojové úsilí. Za pouhé čtyři měsíce od Hitlerova rozhodnutí potopily jeho ponorky celkem 285 lodí o celkovém výtlaku více než jednoho miliónu tun.
Vstup Spojených států do války v roce 1941 představoval pro německé ponorky nový, lukrativní cíl, protože Američané neměli pro své konvoje vypravované do Velké Británie vypracován žádný obranný plán. V prvních šesti měsících roku 1942 německé ponorky potopily 585 amerických lodí, mnohé z nich jen několik mil od amerického pobřeží.
Dönitz byl přesvědčen, že samotné ponorky mohou Německu vyhrát válku, a ukázalo se, že měl téměř pravdu – podařilo se mu potopit spojenecké loďstvo o celkovém výtlaku 15 milionů tun. Počátkem roku 1943 již pod jeho velením operovalo ve „vlčích smečkách“ asi 200 ponorek a dalších 181 bylo ve výrobě. Vývoj radaru však usnadnil jejich vyhledávání a zneškodňování a západním Spojencům se navíc podařilo v roce 1943 uzavřít vzdušnou mezeru ve středním Atlantiku, jež byla dána omezeným doletem letadel. Díky těmto dvěma skutečnostem začali Spojenci ve válce konvojů vyhrávat. V roce 1943 přišla pro Dönitze první osobní rána, když mu 19. května zahynul jeho syn Petr, druhá rána pak přišla v roce 1944, kdy mu 13. května zemřel i jeho druhý syn Klaus.
Po Hitlerově sebevraždě, 30. dubna roku 1945, dostal Dönitz od Martina Bormanna telegram, ve kterém Vůdce jmenoval za svého nástupce místo Göringa právě jeho. V nové funkci se Dönitz pokusil zahájit jednání se Spojenci o separátním míru a konci války. Jednání byla ale neúspěšná, a tak 7. května roku 1945 musel Karl Dönitz souhlasit s bezpodmínečnou kapitulací nacistického Německa. Poté zůstal ještě dva týdny hlavou Německa a 22. května roku 1945 byl zatčen jako válečný zločinec. I přesto, že nikdy nevstoupil do NSDAP a řada spojeneckých velitelů válečného loďstva dosvědčila, že Dönitz praktikoval stejně neomezenou ponorkovou válku jako oni sami, byl na základě poněkud nejasného obvinění ze spáchání zločinů proti míru souzen a odsouzen k trestu odnětí svobody na deset let. Brzy po svém propuštění začal psát paměti, které vyšly v roce 1958 pod názvem "10 Jahre und 20 Tage" (10 let a 20 dní) a vztahovaly se jen k období jeho činnosti jako námořního důstojníka. O několik let později vydal další díl svých pamětí pod názvem "Mein wechselvolles Leben" (Můj život plný zvratů), který vyšel v roce 1968 a byl kritikou Norimberského procesu. Později ještě napsal knihu "40 Fragen an Karl Dönitz" (40 otázek pro Karla Dönitze), kde citoval ze stovek dopisů, které dostal od svých protivníků.
Na podzim roku 1980 se Dönitzovo zdraví rapidně zhoršilo a 24. prosince téhož roku, ve věku devětaosmdesáti let, zemřel. Na pohřeb velkoadmirála, který se konal 6. ledna 1981, se dostavily tisíce lidí, zejména pak vojáků z 2. světové války.
