En 1997, il fut recruté par Lleida, ensuite le Rayo Vallecano a fait appel à ses services pour une durée de trois ans (1998-2001), ce qui fut un choix très judicieux car vers 2000 et 2001, le club Espagnol du Rayo a pu participer à la coupe
UEFA après qu'on lui ait attribué le prix du fair play. Juande Ramos poursuit alors sa brillante carrière en signant un contrat avec le club du Real Beltis qui vient d'être fraîchement promu à la première division. Un an après, son contrat avec ce club a été rompu et, par la suite, Juande Ramos migrait de club en club avant d'atterrir enfin au sein de la FC
Séville en 2005. Depuis qu'il a pris les rênes du club, la FC Séville enregistre des résultats notoires. Le club remporte la célèbre coupe UEFA en 2005 et se classe cinquième dans le championnat d'Espagne. En 2005 et 2006, le club fait encore mieux en remportant la coupe UEFA, en battant les anglais de Middlesbrough sur un score final de quatre buts à zéro. Les mêmes exploits furent réédités suite à une victoire contre le célèbre club du FC Barcelone qui était alors le tenant en titre de la
ligue des champions.