Para abarcar la historia del templo de Santa María del Rabal, o Santa María del Rosario, debemos recurrir a las fuentes históricas y a los estudios arqueológicos de la zona en la que se sitúa el edificio.
Sabemos que el templo fue construido sobre los restos de una necrópolis árabe, entre los años 1430 y 1500, época en la que la población que habitaba al abrigo de la fortaleza de El Castillo, se trasladó a la llanura.
No es de extrañar que esta iglesia fuera la Parroquia Mayor hasta la construcción de la Iglesia de Santiago. Las prospecciones arqueológicas del 1992 determinaron, como última etapa constructiva, los siglos XVII y XVIII.
El origen de la edificación y consagración de este templo a la Virgen del Rosario podría estar en una de las visitas misionales de San Vicente Ferrer, que predicó en Jumilla en el año 1411. No sería de extrañar que la advocación femenina por excelencia de la orden dominica recalara en Jumilla de manos de San Vicente.
Por testimonios del siglo XIX, cuando aún estaba en pie el templo, sabemos que se trataba de un edificio de planta rectangular, con atrio, y de tres naves con cabecera poligonal. Cubierta la nave central a dos aguas y las laterales con una sola vertiente.
En el interior el techo era de madera y en el Altar Mayor tenía un retablo pintado que representaba a la Virgen del Rosario y Santo Domingo. Las fuentes han trasmitido también la existencia de una decoración gótica de relieves sobre las claves (eje central) de lo arcos que representaban animales fantásticos y quiméricos.
Además de estos apuntes arquitectónicos y estilísticos que la documentación histórica nos ha legado, sabemos también que esta iglesia era el punto de encuentro del Concejo en la festividad de San Juan durante el siglo XV. Asimismo en esta iglesia se constituyó la primera Cofradía de Semana Santa, la de La Vera Cruz y Santo Entierro que, en un futuro, encargaría a Salzillo la imagen de un Cristo Yacente desaparecido durante la contienda civil.
El olvido en el que quedó sumido este templo se vio agravado por una intervención dedicada a derribar unas casas que habían quedado adosadas al templo en su parte oeste. El desprendimiento progresivo de terreno en esa zona aceleró la ruina de este edificio.
Pese a la propuesta, en 1975, de asegurar el perímetro de la arquitectura con un muro pantalla, en 1979 se decidió el derribo del templo, respetando la torre y la entrada principal del templo, única parte de sillería del mismo.
En el año 1981 el templo se incluiría como Bien de Interés Cultural dentro del Conjunto Histórico Artístico de Jumilla.
En 1991 se daría comienzo a unas obras de rehabilitación que se detendrían al año siguiente, hasta que en 1995, y bajo la dirección del arquitecto Enrique de Andrés Rodríguez, volverían a reiniciarse, manteniendo los restos del templo y dotando a la zona del nivel de protagonismo, que al menos simbólicamente, la iglesia tuvo en su día.