Rupe nasceu Arthur N. Goldberg em uma família judia da classe trabalhadora em Greensburg, Pensilvânia, disse sua fundação.
Mais tarde, ele mudou seu nome para “Rupe” depois que se mudou para a Califórnia e soube de seu avô paterno que o nome Goldberg havia sido adotado em Ellis Island, de acordo com sua fundação.
Depois de trabalhar com uma equipe de engenharia testando os navios Liberty durante a Segunda Guerra Mundial, Rupe escolheu se tornar um produtor musical, disse sua fundação.
Eventualmente, ele começou sua própria gravadora, Specialty Records, que contou com muitos artistas, incluindo Roy Milton, Percy Mayfield, Joe e Jimmy Liggins, Lloyd Price, Little Richard e Sam Cooke.
Rupe deixou para trás sua filha Beverly e seu marido Leo Schwarz, assim como a neta Madeline Kahan e seu marido Kyle Kahan, disse sua fundação.