En 1609 Felipe III ordenó la expulsión de los moriscos y tan solo en tres días debían abandonar la ciudad para ir a los
puertos cercanos y llevarlos al norte de África. Este hecho provocó una decadencia económica y se recuperaron de ella en el siglo XVIII y la villa no dejó de crecer, llegando a alcanzar la cifra de 6.000 habitantes en el siglo XIX y pasaron a depender de los duques de Medinaceli.