Nacque nel 382 a.C. a Pella, ultimogenito di re Aminta III e di Euridice. Alla morte di Aminta nel 370 aC, gli era succeduto sul trono il fratello maggiore di Filippo, Alessandro II, che tuttavia fu ucciso nel 368 aC dal cognato Tolomeo.
Questi si proclamò reggente in nome del secondo figlio di Aminta, Perdicca III, e per assicurarsi il potere cercò l'alleanza di Tebe, dove il giovane Filippo venne inviato come ostaggio tra il 369 e il 367 AC, quando il re Perdicca, con l'aiuto di Atene, si liberò di Tolomeo, assumendo effettivamente il potere. Durante la prigionia tebana, Filippo osservò le tecniche militari di quella che all’epoca era la più grande potenza in Grecia.

A lui è dovuta tra l'altro la famosa falange macedone, punta di diamante del suo esercito. Egli equipaggiò ad ogni soldato macedone una sarissa, una lancia lunga sei metri.

Consolidamento del regno

Alla morte di Perdicca durante una disastrosa campagna contro gli Illiri, nel 360 AC, Filippo prese il potere come tutore di  Aminta, figlio di Perdicca III. Solo alcuni anni dopo (356 o 354 AC) venne ufficialmente riconosciuto come re di Macedonia dall'assemblea del popolo in armi.

A 21 anni, Filippo prese in mano un regno pieno di problemi: i confinanti minacciavano di invadere la Macedonia, e alcune regioni reclamavano l’indipendenza. Appena salito al potere avviò una profonda riorganizzazione dell'esercito e dello stato.

Grazie alla sua abilità diplomatica concluse la pace con la Tracia e cedette ad Atene la città di Anfipoli. Nel 385 aC sconfisse pesantemente gli Illiri e consolidò in questo modo il regno. Nel 356 condusse l’esercito macedone ad Est e conquistò la città di Crenides, che era nelle mani dei Traci, e la chiamò Filippi. Ora il confine tra il regno Macedone e quello dei Traci era il fiume Mesta. A quel punto, condusse l’esercito in Tessaglia, nella Grecia settentrionale. Sconfisse i nemici e avanzò fino al passaggio delle Termopili, che però non provò a conquistare. Tornò in Macedonia e iniziò a riorganizzare l’esercito per la definitiva eliminazione di tutte le città greche in territorio macedone. Nel 348 aC sconfisse tutte le 31 città greche che si trovavano nella penisola Calcidica, che venne annessa al regno macedone. Tra queste città vi era anche Stageira, la città di Aristotele. Nel 346 AC la pace di Filocrate tra le città greche stabilì l'egemonia macedone. Nel 343 AC concluse con la Persia un trattato di alleanza, con il quale questa rinunciò ad interferire nei territori europei. Spinta da Demostene (abile oratore autore delle Filippiche), la città di Atene,a cui si aggiunse poi Tebe, si ribellò alla prevalenza macedone, ma Ateniesi e Tebani furono sconfitti nella battaglia di Cheronea nel 338 AC. Durante la campagna del 339 aC vennero annesse la Tracia e la Scizia, ma Filippo riportò gravi ferite e fu costretto a tornare a Pella. Non appena si fu ripreso attaccò la Grecia assieme ad Alessandro, allora diciottenne. A Cheronea, nonostante l’inferiorità numerica, l’esercito macedone schiacciò le truppe greche. Si fece quindi promotore della costituzione della Lega di Corinto tra tutte le città greche, tranne Sparta. La lega si alleò con la Macedonia e Filippo venne nominato comandante supremo del suo esercito.

Nella primavera del 336 aC, Filippo iniziò l’invasione della Persia. Inviò Attalo e Parmenione in Asia Minore per preparare il terreno per la lotta, mentre lui rimase in Macedonia per il matrimonio della figlia Cleopatra con il fratello di Olimpiade, Alessandro d’Epiro. Durante il secondo giorno di celebrazioni nuziali, egli venne pugnalato da Pausania, il capo della guardia reale. Pausania tentò di fuggire, ma venne rincorso e ucciso da alcuni compagni di Alessandro.