Come è noto, esistono due versioni di questo quadro: quella conservata alla National Gallery di Londra, l'unico dei due che fu veramente posto sull'altare milanese (eseguito in parte con la collaborazione di aiuti), e l'altra, interamente autografa e forse di qualche anno precedente, al Louvre di Parigi, la cui vicenda appare oggi alquanto misteriosa. Una terza versione (la cosiddetta Vergine delle Rocce Cheramy), oggi in una collezione privata in Svizzera, è stata attribuita a Leonardo da Carlo Pedretti, ma rifiutata da altri specialisti del settore (tra cui Pietro Marani e Giovanni Agosti). Mentre la Vergine delle rocce di Parigi, eseguita prima, venne data al re di Francia, questa versione venne venduta nel 1785 al pittore Gavin Hamilton, che la portò in Inghilterra. Una serie di passaggi di proprietà successivi permisero, nel 1880, che la tela finisse alla National Gallery.

È conservato alla National Gallery di Londra; il dipinto è molto simile ad un'altra opera del maestro, oggi al Museo del Louvre.

Al centro della tavola si trova la Madonna, in una posizione leggermente sopraelevata rispetto a San Giovanni bambino, che ella ricopre con il mantello in segno di protezione. La mano sinistra è tesa sopra al capo di Gesù bambino, in segno di benedizione, mentre egli è abbracciato da un angelo (forse Uriel), sedutogli a fianco. Le quattro figure sono disposte a croce e sono collegate tra loro da sguardi e gesti: San Giovannino prega Gesù, che lo benedice, mentre l'angelo lo indica, creando così una visuale "circolare". Le espressioni dei volti sono molto studiate e rese abilmente grazie all'uso di luci ed ombre e all'effetto sfumato; permane la tendenza tipica di Leonardo a rappresentare profili mascolini e spigolosi. La figura umana, inoltre, non è circoscritta e isolata, bensì si fonde armonicamente con il paesaggio circostante. Nell'opera si può notare l'accenno ad un modulo fondamentale della composizione cinquecentesca, cioè la struttura piramidale del gruppo, struttura che è apprezzabile ancor più in La Vergine, Sant'Anna, il Bambino e l'agnello dello stesso autore e che sottolinea ulteriormente l'espressività dei gesti dei personaggi. Sopra alle teste delle figure, fin sullo sfondo, si apre una grotta. Nonostante questa sia vicina, l'effetto tridimensionale è molto efficace perché legato all'apertura delle rocce sullo sfondo. Il paesaggio in lontananza si perde nella foschia, le figure non sono più nitide e definite, e cambia anche il gradiente del colore; l'effetto tridimensionale non è più un fattore mentale, bensì dipende dall'effetto atmosferico, in quanto la presenza dell'aria costituisce un velo che offusca la visione. Questa nuova tecnica prospettica creata da Leonardo e diversa dalla prospettiva esatta è stata denominata dalla critica prospettiva aerea. L'anemone rosso, che richiama il colore del sangue, è una sorta di precognizione del sacrificio che Gesù, adulto, compirà per l'umanità intera, morendo crocifisso.