Este jardín histórico, cuya creación se debe a Felipe II, es uno de los rincones escondidos más especiales de Madrid. Situados en un eje verde, con más de 20 hectáreas, junto a Madrid Río, fueron declarados Monumento Histórico Artístico en 1931. Su nombre hace referencia a un episodio histórico sucedido en 1109, cuando el caudillo musulmán Alí Ben Yusuf intentó reconquistar Madrid tras la muerte del rey Alfonso VI, atacando el alcázar desde la ladera próxima al río. Sus tropas y él parece ser que acamparon en el lugar que hoy ocupan los jardines.

En el siglo XVI, el Rey Felipe II compró los terrenos colindantes al Alcázar, convirtiéndose en la zona de ocio de la Corte en Madrid. Tras el incendio del Alcázar de Madrid en 1734, este terreno pierde protagonismo en favor de otras zonas cercanas a Palacio.

En el reinado de Isabel II fue cuando se acometió la construcción de los Jardines por parte de Narciso Pascual y Colomer (1844), del que permanece el trazado de las principales avenidas rectilíneas, y las dos fuentes que se alinean en el eje central: la de las Conchas, obra de Felipe de Castro y Manuel Álvarez (1775), procedente del Palacio del Infante don Luis en Boadilla del Monte, y la de los Tritones, obra italiana del siglo XVI procedente del jardín de la Isleta en Aranjuez, y colocada ante la Gruta Grande o invernadero. Durante la Regencia de María Cristina de Habsburgo se reformó completamente el parque según el diseño seudopaisajista de Ramón Oliva (1890).

Los terrenos del Campo del Moro no fueron ajardinados antes ante la imposibilidad de conectarlos con el Palacio Real, situado a mucha mayor altura. Esta posición elevada se aprovechó para crear una de las mejores perspectivas madrileñas, la del Palacio Real detrás de un gran tapiz verde jalonado por fuentes monumentales dentro de un amplio y sombrío jardín romántico.

Con motivo de la próxima inauguración del Museo de las Colecciones Reales (prevista para el verano de 2023), cuya planta -3 se encuentra a la altura de los jardines, se ha construido un acceso público al Campo del Moro a través de la puerta situada en la intersección del Paseo de Felipe V, en el interior de los jardines, con la Cuesta de la Vega, donde está prevista la entrada de grupos o colectivos al museo. Además, se conectarán los jardines con el eje Madrid Río a través del Túnel de Bonaparte (o de Juan de Villanueva), que discurre de este a oeste bajo dicho eje y el Paseo de la Virgen del Puerto.

Los jardines cuentan con servicio de restauración y aseos públicos.