Originario di La Villa (Stern), oggi in provincia di Bolzano, Grossrubatscher apparteneva a una famiglia contadina di modesta condizione. Svolto il servizio militare a Vienna nella seconda metà degli anni Novanta, fu inserviente nel manicomio di Hall, presso Innsbruck, e poi carrettiere presso il mulino Roessl di Bolzano