Durante el mes que perteneció al ejército fue encarcelado numerosas ocasiones por sus constantes ofensas y desobediencia crónica. Era imposible de controlar y con frecuencia aparecía en estado de ebriedad. Era simplemente imposible que Panzram se ajustara a cualquier clase de régimen disciplinario, fuera civil o militar. En Abril de 1908 fue descubierto cuando se había introducido a los almacenes del cuartel militar para robar diversas provisiones con las cuales planeaba desertar y luego venderlas. Entonces fue sometido a juicio en un tribunal militar que en aquellas épocas castigaba con excepcional firmeza los delitos cometidos por hombres del ejército. La sentencia final dictaba la expulsión de Panzram sin honores ni compensación y tres años de trabajos forzados en la penitenciaría federal de Leavenworth en Kansas y fue ratificada por William H. Taft, futuro presidente de los Estados Unidos que en ese momento fungía como secretario de Guerra.