A finales del año 1939 viajó por barco a Norteamérica, llegando a Nueva York en enero de 1940. Penzias estudió en el City College de New York, y se graduó en 1954 como físico. Estudió en la Universidad Columbia. Antes de entrar a la Universidad, Penzias había estado en la marina en donde adquirió experiencia en el laboratorio de radiación. Esto le sirvió para concentrarse en el laboratorio de física de microondas. Su tesis fue la construcción de un amplificador de masa para experimentos en radioastronomía.