De tyranniske tilbøjeligheder hos denne forkæmper for ufejlbarligheden kommer lydelig til udtryk i hans; behandling af den tyske kejser Henrik IV. Kejseren blev erklæret for udstødt af kirken og afsat, fordi han ikke ville anerkende pavens myndighed. Henrik blev bange, da han blev svigtet og truet af sine egne fyrster, som gjorde oprør imod ham på pavens befaling, og han anså det for nødvendigt at slutte fred med Rom. Sammen med sin hustru og en trofast tjener drog han over Alperne midt om vinteren for at ydmyge sig over for paven. Da han kom til det slot, hvor Gregor havde taget ophold, blev han ført ind i en forgård uden ledsagelse af sin livvagt. Her måtte han blive i vinterens kulde, uden noget på hovedet og uden sko på fødderne og kun iført de nødtørftigste klæder, mens han afventede pavens tilladelse til at blive lukket ind. Paven nedlod sig først til at benåde ham, da han havde fastet og bekendt sine synder i tre dage. Da de var gået, skete det endda kun på betingelse af, at kejseren ventede med at iføre sig sine værdighedstegn og udøve sin kejserlige magt, til han havde fået pavens tilladelse. Gregor blev hovmodig over denne sejr og pralede med, at det var hans pligt at knække kongernes stolthed.