주후 1250년, 합스부르크 백작 루돌프 4세는 남쪽에서 날아온 소식을 듣고서는 까무러칠듯이 놀랐고, 이내 침통한 표정으로 깊은 고민에 빠지게 되었다. 동시대 연대기 작가들의 묘사에 따르면, 그는 "다리가 길고 큰 키, 창백한 안색에 허약한 체질, 길고 가는 손과 긴 코, 그리고 엄숙한 표정"를 지니고 있었다. 20세기에 발굴된 그의 유해는 연대기 묘사의 신빙성을 어느정도 뒷받침한다. 그는 정말로 웅장하고 기다란 체격을 하고 있었던 것이다.

 그를 사색에 잠기게 한 불길한 소식은, 할아버지 대(代)인 친절공 루돌프 때부터 삼대를 걸쳐 일편단심으로 모셨던 프리드리히 2세 폐하께옵서 급작스러운 고열로 인해 훙서하고야 말았다는 비보였다. 프리드리히 2세는 주군이기에 앞서 루돌프 4세의 대부였다. 그 얼마나 자주 황제 폐하의 궁정에 들락거렸던가. 정치적 걱정에 앞서 루돌프 4세는 개인적 비통에 잠겨있었다. 

 당시 신성로마제국의 황가 호엔슈타우펜은 제국 내의 유력 선제후인 벨프 가문, 그리고 그들의 동맹인 교황과 지난한 권력 투쟁을 하고 있었다. 황제는 대관식을 치르기 위해 이탈리아로 길고 긴 여행을 떠나야만 했고, 교황과 의견을 조율해야만 했다. 교황 또한 주교와 수도원장을 서임하는 일정한 영적 권한을 황제에게 위임해야만 했다. 세속적 영역과 영적 영역은 모호한 경계를 사이를 두고 자주 충돌했고, 양자는 나름대로 자신들의 권한을 휘둘러 상대를 복종시키려 최선을 다해왔다. 

 황제가 급서한 지금, 교황과 벨프 가문의 동맹 세력은 주도권을 잡고자 했다. 루돌프 4세와는 막역한 사이이기도 했던 프리드리히 2세의 아들, 콘라트 4세가 보헤미아 왕위와 슈바벤 공작위 등 아버지가 지녔던 대부분의 작위를 습작했다. 그러나 교황은 그가 신성로마제국의 황위를 계승하는 것을 용납하지 않았고, 결국 콘라트는 강제로 폐위됐다. 전란의 시대가 열렸다. 제국의 귀족들은 제각기 다른 편에 서서 기치를 드높였고, 수없이 많은 수도원과 요새가 불타기 시작했다. 루돌프 4세 또한 호엔슈타우펜 가문 편에 서서 바젤의 주교와 맞서 싸우는 와중에 파문됐다. 

 주후 1254년, 콘라트 4세가 말라리아로 죽자 혼란상은 격화됐다. 절대 권력이 급작스럽게 사라진 지금, 공백기를 비집고 들어온 파편화된 권력의 시계추들이 제각기 요동치고 있었다. 바야흐로, 대공위시대(Great Interregnum)가 시작된 것이다. 그리고 루돌프 4세는 지금, 자신이 바라건 바라지 않건, 일정한 역할을 충실히 수행해야하는 신세가 되었음을 직감했다. 수많은 외국인들이 동시에 대립로마왕으로 선출됐다. 홀란트의 빌렘 2세, 카스티야의 알폰소 10세, 콘월의 리처드 등... 복잡한 뇌물공세와 치열한 전투가 지속됐다. 

 홀란트의 빌렘 2세는 얼어붙은 호수를 건너다 타고 있던 말을 잃고는 프리슬란트인들에게 살해당한 뒤 어느 집 바닥에 파묻혔다. 콘라트 4세의 이복동생 만프레디는 조카이자 호엔슈타우펜의 당주 콘라딘이 죽었다는 소리를 듣고 시칠리아 왕위에 즉위했다. 그는 교황의 동맹인 앙주의 카를루 1세에게 베네벤토 전투에서 참패한 뒤 적에게 돌격하다 사망했다. 그의 조카이자 콘라트 4세의 적법한 계승자, 호엔슈타우펜의 마지막 당주였던 콘라딘이 탈리아코초에서 다시 카를루 1세를 맞닥뜨렸고, 마찬가지로 콘라딘 또한 포로로 잡힌 뒤 참수당했다.

 이렇듯 제국이 공위시대를 맞이해 혼란상에 빠지는 동안, 루돌프 4세는 여러모로 가문의 이익부터 챙겼다. 외삼촌의 영지를 몰수하고, 스트라스부르 주교와 바젤 주교가 불화하는 틈을 타 광대한 수도원 토지를 접수하는 등, 합스부르크 가문은 어느새 남서부 독일 지역에서 가장 강력한 독립 세력으로 거듭나 있었다. 

 1272년, 대립로마왕 중 하나였던 콘월의 리처드가 중풍으로 사망했다. 제국은 다시금 적법한 황위 계승 후보를 물색해야했다. '철과 황금의 왕' 이라는 별명을 지닌 보헤미아의 왕 오타카르 2세는 외가쪽으로 호엔슈타우펜 가문과 인척관계였으나 별명처럼 너무 막강해 보였기에 선제후들로부터 기피되었다. 

 결국 너무 막강하지도, 너무 한미하지도 않으며, '호엔슈타우펜 가문의 오랜 친구'인 루돌프 4세가 일곱 표의 만장일치로서 '로마인의 왕 루돌프 1세'로 선출되었다. 무엇보다도 루돌프 1세는 선거 과정에서 아주 능숙한 연륜을 보이며 자신의 딸들을 선제후들에게 시집보내고, 교황에게 십자군을 약속하는 등 잠재적 정적들을 구워 삶아보였다. 그의 나이, 이미 당시로서는 노년에 접어든지 오래였던, 55세를 지나고 있었다.

 로마왕으로 선출된 루돌프 1세는 신앙심이 깊다고 여겨졌다. 합스부르크 가문을 상징했던 키워드, '오스트리아의 경건함(Pietas Austriaca)'은 기실 그로부터 비롯되었다. 실제 그의 삶은 무자비하고 잔혹한, 전형적인 봉건 영주의 계략과 음모로 점철돼있었으나, 후손들은 그를 콘스탄티누스 대제의 정당한 후계자이자 이상적인 기독교 기사도를 지닌 이로 추숭했다.