Il Foot Ball Club Melgar è stato fondato il 25 marzo 1915 da alcuni giovani della città di Arequipa con il nome di Juventud Melgar, che di lì a poco sarebbe stato mutato nell’attuale denominazione, dal nome del poeta e rivoluzionario Mariano Melgar, vissuto tra il 1790 ed il 1815.Il primo torneo disputato dalla squadra risale al 1919, quando i giocatori si recarono a Lima per una competizione amichevole. Nel 1928 e 1929 arrivarono i primi trofei, grazie alle vittorie nella Liga Departamental de Arequipa. Nel 1930 effettuò i primi incontri internazionali partecipando ad un torneo in Cile.
Nel 1964 e 1965 l’FBC Melgar si impose in altri due tornei dipartimentali (si ripeterà per altri 4 anni consecutivamente tra il 1967 ed il 1970). Nel 1966 partecipò, invitato, al primo Campeonato Descentralizado; si piazzò ottavo su 14 squadre, ma in base al regolamento di quel torneo, fu costretto alla retrocessione.
Nel 1971, ottenendo un pareggio nell’ultima gara contro il CNI, vinsero la Copa Perú, accedendo nuovamente alla Primera División, alla quale partecipano ininterrottamente da quell’anno.
Nel 1981 la squadra tocca il punto più alto della propria storia, vincendo il campionato nazionale ed accedendo alla successiva Copa Libertadores. Nel torneo sudamericano venne eliminato al girone iniziale pur vincendo 4 incontri su 6. Gli 8 punti collezionati non furono sufficienti a piazzarsi al primo posto, l’unico disponibile.
Nel 1983 il secondo posto finale in campionato (dopo essersi aggiudicati la prima fase, il Campeonato Descentralizado, valse una nuova qualificazione alla Copa Libertadores. Anche in questo caso il Melgar uscì al primo turno, ma in questo caso piazzandosi ultimo nel proprio girone. Per trovare una nuova partecipazione dei rossoneri ad un torneo sudamericano si deve attendere fino al 1998, quando, dopo essersi piazzati al terzo posto in campionato, disputarono la Coppa CONMEBOL. Nel 2015 il club conquista il suo secondo campionato nazionale battendo nella doppia finale valevole per il titolo lo Sporting Cristal.