Sohn des Landgrafen Ludwig II. des Eisernen und dessen Gemahlin Jutta von Schwaben, der Tochter von Friedrich II., Herzog von Schwaben, und damit Neffe von Friedrich Barbarossa. Sein Bruder und Vorgänger Landgraf Ludwig III. starb am 16. Oktober 1190 auf der Rückkehr vom Dritten Kreuzzug; aber H. erhielt von seinem Cousin Heinrich VI. nur gegen Opfer die Nachfolge der Reichslehen. Skrupellos, hatte er mehrfach zunächst Heinrich VI., später Philipp von Schwaben und zuletzt Otto IV. verraten. Nur der Tod hielt ihn vermutlich davon ab, auch Friedrich II. zu verlassen, mit dem er tapfer gegen Otto IV. gekämpft hatte. Einer seiner Söhne war Heinrich Raspe, ein anderer, sein Nachfolger Ludwig IV, heiratete die heilige Elisabeth. Seine sagenhafte Liebe zur deutschen Dichtung basierte auf dem Sängerkrieg, der 1207 auf der Wartburg stattgefunden haben soll. Hermann starb am 2. April 1217 in Gotha und wurde im Kloster Reinhardsbrunn beigesetzt.