La storia della Biblioteca si intreccia con quella del Seminario della Diocesi di Milano, voluto da S. Carlo Borromeo nel 1564 per attuare le nuove norme sulla formazione del clero, emanate dal Concilio di Trento.
La prima sede del Seminario fu in Corso di Porta Orientale (oggi Corso Venezia) a Milano. Qui fu organizzata anche la Biblioteca, nucleo originario di quella attuale: modesta agli inizi, essa conobbe un lento ma costante incremento fino al termine del Settecento. Dopo la battuta d’arresto, dovuta alle requisizioni di epoca napoleonica, la Biblioteca del Seminario di Milano conobbe significativi arricchimenti grazie a una serie di cospicue donazioni testamentarie.
Il completamento del nuovo Seminario di Venegono Inferiore, destinato a raccogliere in un unico edificio gli studenti liceali, provenienti dalla sede di Monza, e quelli di teologia, provenienti da Milano, segnò la nascita della Biblioteca attuale.
Era l’anno scolastico 1930-31, quando il nuovo Seminario, con i cantieri ancora aperti (sarebbe stato solennemente inaugurato il 12 maggio 1935), consentì di unificare in un unico ambiente appositamente predisposto le biblioteche degli istituti preesistenti: quelle di Corso Venezia (che nel frattempo, per esigenze di spazio, erano diventate tre), ricche di opere antiche e specializzate in campo teologico, e quella del Seminario liceale di Monza, specializzata in ambito letterario e filosofico.
Da allora la Biblioteca ha continuato costantemente ad arricchirsi, sia grazie agli acquisti decisi dall’apposita Commissione e finanziati dall’Amministrazione del Seminario, sia grazie a importanti lasciti e donazioni. Tra questi spiccano i circa 15.000 volumi della biblioteca privata appartenuta al Card. Giovanni Colombo (1902-1992), gli oltre 20.000 volumi donati nel settembre 2002 dal Card. Carlo Maria Martini (1927-2012) allo scadere del suo mandato come Arcivescovo di Milano e i numerosi libri omaggiati dal Card. Dionigi Tettamanzi (1934-2017).
Questi lasciti si pongono nella scia della volontà del Card. Andrea Carlo Ferrari (1850-1921) di aggregare buona parte della sua biblioteca a quella del Seminario. Anche il Card. Ratti, poi Papa Pio XI (1857-1939), a cui il Seminario è dedicato, donò alcuni volumi della sua biblioteca personale rimasta a Milano dopo la sua nomina a Pontefice nel 1922. Attualmente, S. Ecc.za Mons. Mario Delpini, Arcivescovo di Milano, fa periodicamente dono alla Biblioteca di volumi di sua proprietà.
L’8 maggio 2018 durante la Festa dei Fiori, la Biblioteca del Seminario di Milano è stata dedicata al Card. Carlo Maria Martini.