První impulz k založení pražské městské obrazárny vzešel z výtvarného odboru nově založené Umělecké besedy, vedeného Josefem Mánesem, v 60. letech 19. století. Záměrem byl jak prospěch veřejnosti, tak i podpora soudobých umělců. Městská rada nakonec začala nakupovat jejich díla, byť pouze příležitostně.
Magistrátní sbírka se postupně rozrůstala také díky darům jednotlivců a institucí. Významně ji na přelomu 19. a 20. století obohatil velký soubor obrazů Jaroslava Čermák od Hippolyty Gallaitové a soubor děl Václava Brožíka od rytíře Václava Špačka ze Starburgu. >>>

Myšlenka galerie hlavního města Prahy znovu vystoupila do popředí zájmu po vzniku samostatné Československé republiky. V nově vystavěné budově Městské knihovny koncem 20. let byly galerii už přímo vyhrazeny výstavní sály. Přibližně ve stejné době, roku 1928, dostalo město Praha velkorysý dar od Alfonse Muchy: cyklus monumentálních pláten Slovanská epopej. Městská rada zároveň administrativními opatřeními zajistila větší soustavnost nákupů pro zamýšlenou galerii, stálým uměleckým poradcem pro ně se r. 1927 stal sochař Ladislav Šaloun.
Až do začátku 2. světové války se tak podařilo ze soudobých výstav získat řadu význačných, dnes již klasických děl moderny 20. století (např. E. Filly, R. Kremličky, O. Kubína, J. Baucha, F. Muziky, J. Šímy, V. Špály, J. Štyrského, J. Zrzavého, plastiky O. Gutfreunda, J. Wagnera a dalších).
Po válce plány na založení městské galerie znovu nabyly na intenzitě ve 2. polovině 50. let a Národní výbor hlavního města Prahy pro budoucí galerii cíleně nakupoval díla ze soudobých uměleckých přehlídek.

Mnohaleté úsilí a snahy se naplnily 1. května 1963, kdy byla založena Galerie hlavního města Prahy.