La storia del museo ha inizio con la formazione dell'Associazione d'Arte di Montreal, la cui missione era quella di instillare nel pubblico il gusto per le belle arti.
Per decenni questo gruppo è stato itinerante e non disponeva di locali per conservare le opere che collezionava o che gli venivano prestate. Nel 1877, un uomo d'affari di Montreal donò all'associazione dipinti, statue di bronzo e 8.000 dollari, a condizione che venisse costruito un museo entro 3 anni. Due anni dopo, il Governatore Generale del Canada inaugurò la galleria d'arte dell'Associazione d'Arte di Montreal, un edificio appositamente progettato per ospitare una collezione d'arte.
All'inizio del 1900, una nuova donazione di opere da parte di un collezionista costrinse la galleria a prendere in considerazione uno spazio più grande. Dopo due anni di lavori, il nuovo museo aprì in Sherbrooke Street, nella sede attuale. Oggi il Musée des Beaux-Arts è uno dei musei d'arte più visitati del Canada.