El arquitecto Libón construyó el templo en piedra caliza local, de baja calidad estética, por lo que debió dar un estucado superficial que simulaba mármol. Los frisos estaban tallados y los frontones tenían esculturas en mármol. Uno de los dos temas principales de la decoración del templo es la justicia, de la cual Zeus es defensor en la mitología griega. El otro tema, son los doce trabajos de Hércules. En el interior del templo se encendía la llama olímpica al comienzo de los juegos y, tal como en los juegos olímpicos modernos, permanecía encendida hasta el final de los juegos.