LOS YEBENES: La edificación también con el paso del tiempo fue agrandándose...

La edificación también con el paso del tiempo fue agrandándose y acondicionándose mediante distintos añadidos. En el siglo XVI Felipe II vendió el castillo al Cardenal Silíceo para que instalase allí el Colegio de Doncellas Nobles de Toledo. El castillo siguió perteneciendo a la nobleza pero desde el siglo XIX va perdiendo importancia hasta quedar abandonado.

Actualmente las estructuras del castillo están muy deterioradas debido a las condiciones del lugar y al estado de abandono, de modo que si en un futuro cercano no se realiza una intervención de restauración en los próximos años solo quedaran las ruinas.