Un hijo de Alberto IV, conde de Habsburgo, Rodolfo con motivo de la muerte de su padre (c. 1239) heredó tierras en la alta Alsacia, Argovia y Breisgovia. Partidario del emperador Hohenstaufen Federico II y su hijo Conrado IV, aumentó sus territorios en gran parte a expensas de su tío, el conde Hartmann de Kyburg, y su primo, el Conde Hartmann el Joven, que apoyaron la causa papal contra los Hohenstaufen. El primer matrimonio de Rodolfo (c. 1245), con Gertrudis de Zollern-Hohenberg-Haigerloch, también añadió considerables propiedades a sus dominios. En 1254 ayudó a los Caballeros de la Orden Teutónica participando en una cruzada en Prusia.

La elección de Rodolfo como rey alemán en Fráncfort se aceleró por el deseo de los electores de excluir a un candidato rival cada vez más poderoso de origen no alemán, Otakar II de Bohemia. Coronada en Aquisgrán en octubre. El 24 de septiembre de 1273, Rodolfo fue reconocido por el Papa Gregorio X en septiembre de 1274 con la condición de que renunciara a todos los derechos imperiales en Roma, en los territorios papales y en Italia y dirigiera una nueva cruzada. En 1275 el Papa logró persuadir a Alfonso X de Castilla (a quien algunos de los electores alemanes habían elegido rey en abril de 1257) para que abandonara su reclamo a la corona alemana.

Mientras tanto Otakar II de Bohemia había estado ganando el control de Austria, Estiria, Carintia y Carniola. Cuando en 1274 Otakar se negó a comparecer ante una dieta imperial para mostrar causa por sus acciones, Rodolfo lo puso bajo la prohibición del imperio y dirigió un ejército a Austria, donde derrotó a Otakar en 1276. En 1278 Otakar, tratando de reconquistar los territorios que había perdido ante Rodolfo, invadió Austria; fue nuevamente derrotado y muerto en la Batalla de Dürnkrut (26 de agosto).