La creación del
edificio se debe a Carlos Miguel Ramírez de Jove, primer marqués de
San Esteban de Natahoyo (título nobiliario otorgado por Felipe V el 20 de marzo de 1708), quien lo mandó construir en 1704 aprovechando la
torre medieval de estilo
gótico (siglo XV) preexistente. Es conocido como
Palacio de Revillagigedo porque en la misma
familia que lo construyó recayó posteriormente el título de condes de Revillagigedo. La obra finalizó en 1721, y estuvo bajo la dirección de Francisco Menéndez Camina, quien también proyectó el Palacio de Camposagrado de Avilés.