Tras el declive y abandono que sufrió este edificio a partir del siglo IV d.C., con la decadencia del propio Imperio Romano, los baños utilizaron nuevamente con la llegada de los árabes a la Península en el siglo VIII. No se podía dejar de usar un lugar de donde manaban aguas calientes en una cultura en la que el agua y el baño eran uno de los referentes diarios más importantes. De hecho, los Baños de Alhama no son los únicos de la Región en los que se constata este hecho; revientes excavaciones en el Balneario Romano de Fortuna ha documentado el uso de las antiguas instalaciones termales romanas durante la Edad Media Islámica y probablemente lo mismo debió suceder en los de archena.
De este modo, los Baños de Alhama vivieron una nueva época de esplandor; se reutilizan los mismos espacios abovedados, pero además fueron incorporando nuevos tragaluces a ambos lados de las bóvedas. Entorno al manantial del baño de aguas minerales calientes con sus virtudes terapéuticas, se crearon dos salas, una para el baño de los hombres y otra para el baño de las mujeres que solían tener el baño los jueves.
El propio nombre de la ciudad de Alhama viene de esta época debido a la existencia de un hamma o baño termal frente a hâmman o baño. De tal forma que Alhama vendría a significar “el baño”.
Son numerosas las fuentes en las que aparecen citados los baños, la más importante la constituye Al-Idrisi, que en su descripción del camino de Almería a Murcia habla de Hisn al-Hamma, castillo del Baño, una clara alusión tanto al castillo de la ciudad como a sus aguas termales.
La existencia de dichos baños dieron cierta relevancia a la ciudad y un importante crecimiento, como ha quedado demostrado en los numerosos restos hallados en las sucesivas excavaciones realizadas en el centro, en el entorno de los baños.