David havde fra 1930’ernes begyndelse leget med tanken om, at samlingen efter hans død skulle bevares som et selvstændigt, offentlig tilgængeligt museum i huset Kronprinsessegade 30. Den selvejende institution, C.L. Davids Fond og Samling, blev dog først til virkelighed i 1945 efter 2. verdenskrigs afslutning, efter at David tidligere på året havde overlevet en alvorlig sygdom. I 1948 åbnedes samlingen for offentligheden nogle få timer om ugen på tredje og fjerde etage, idet David nu boede på anden etage, og hans sagførerkontor installeredes på første etage. Efter Davids død i 1960 udvidedes åbningstiden i takt med, at også resten af Kronprinsessegade 30 blev inddraget til brug for museet.

Foruden den økonomiske baggrund til museets drift havde David også sørget for midler til at udbygge samlingen, og igennem 1960’erne og 1970’erne kompletteredes bestanden af europæiske møbler og kunsthåndværk fra det 18. århundrede. Snart stod det imidlertid klart, at museet i en skandinavisk sammenhæng havde sin vigtigste eksistensberettigelse i kraft af bestanden af islamisk kunst. Fra 1980’erne og frem styrkedes nu så godt som udelukkende denne del af samlingen ved indkøb. For at huse den stadigt voksende bestand af kunstværker erhvervedes i 1986 naboejendommen Kronprinsessegade 32. Fire år senere kunne den første udvidelse af museumsarealet i denne ejendom, et langt montrerum til islamiske miniaturer, tages i brug. Miniaturegalleriet tegnedes af arkitekt Wilhelm Wohlert (1920-2007), mens Wohlert Arkitekter har stået for de senere ombygninger i 1999 og 2005-2009. Den seneste ombygning har bl.a. betydet, at området til den islamiske samling er blevet fordoblet og udstillingen helt nyindrettet. Der er også blevet indrettet en ny etage til samlingen af nyere dansk kunst.