독일의 바리톤인 프라이는 어려서는 소프라노 솔로로서 베를린의 모차르트 합창단에서 노래했는데 그 후 1952년 비스바덴에서 데뷔했다. 이어 함부르크에서 오네게르의 희가극 [포솔왕의 모험]을 노래했으며 1957년 빈과 베를린에서 활약했고, 1959년에는 잘츠부르크에서 리하르트 슈트라우스의 [말없는 여인]을 재연했다.
그는 모차르트의 오페라에 뛰어났고 로시니의 피가로 역으로도 잘츠부르크 음악제에서 성공을 거우었다. 그는 독일 가곡의 가수로서도 세계적으로 활약했다. 극적이기보다 다채로운 음색의 목소리로서 헤르만 프라이는 전후 가장 뛰어난 바리톤 가수의 한 사람었다.