Heřman se narodil v Kolíně nad Rýnem okolo roku 1150. Již od raného mládí projevoval velkou úctu k Panně Marii. V životopise sepsaném jeho převorem se vypráví, že denně chodil do kostela Panny Marie na Kapitolu v Kolíně. Jednoho dne nabídl Panně Marii jablko a ona se sehnula tak, aby Ježíšek na ně mohl dosáhnout.
Ve věku 12 let vstoupil do premonstrátského opatství Steinfeld. Na studia pak odešel do kláštera Mariengaarde ve Frísku. Již od mládí konal přísné kající skutky. Po návratu do Steinfeldu a po vysvěcení na kněze mu bylo uloženo sloužit v sakristii a refektáři. Při těchto pracích se rozvinul jeho neobyčejně bohatý duchovní život a dostalo se mu několika mystických zážitků. Své druhé jméno Josef obdržel poté, co jej ve vidění Panna Maria přijala za svého snoubence. Jeho časté stavy vytržení způsobily mnohá nedorozumění mezi ním a spolubratry.

Heřman Josef napsal několik písní o Panně Marii, svaté Voršile a jejích družkách a komentář k Písni písní – jeho sloh je naplněn city a ukazuje, že tento hluboce zbožný řeholník měl skutečný básnický talent. Byl jedním z prvních, kdo uctívali Nejsvětější Srdce Ježíšovo, a to pravým mystickým způsobem opírajícím se pouze o Písmo svaté. Také byl znám tím, že dokázal velmi zručně sestavovat a opravovat hodiny. Heřman Josef byl jmenován duchovním vůdcem sester cisterciaček z Hovenu několik kilometrů od Steinfeldu a často k nim jezdil. Sestry si jeho duchovního vedení vysoce cenily. Jednou předstíraly, že potřebují opravit hodiny – jen proto, aby jej přiměly k nim přijet. Během doby postní roku 1241 také pobýval u sester a tam se roznemohl a zemřel na Zelený čtvrtek 4. dubna 1241. Dožil se 91 let.

Jeho tělo bylo slavnostně přeneseno do Steinfeldu. Nyní je ve vysokém náhrobku uprostřed kostela. Jeho uctívání nebylo nikdy přerušeno. 22. ledna 1728 papež Benedikt XIII. schválil jeho uctívání jako blahoslaveného a posvětil k jeho poctě oltář v koleji svatého Norberta v Římě. Jeho úcta, která byla po staletí živá, byla oficiálně uznána 11. srpna 1958 a Heřman Josef byl svatořečen. Je uctíván v Porýní a v premonstrátském řádu jako patron dětí a studentů.
Heřman Josef byl příkladným řeholníkem v duchu svatého Augustina: pokorný a chudý kanovník, trpělivý a přátelský ke všem – zvláště k těm, kteří mu rozuměli nejméně – poslušný svých představených, vždy připraven sloužit spolubratrům.

Heřman je zobrazován jako premonstrát s Marií a Ježíškem, s jablkem, lilií, kalichem s růžemi, kalichem, klíčem, psacími potřebami, jako dítě, jak podává Ježíškovi jablko, při „mystickém zasnoubení“ s Marií (s předáním prstenu), při vidění „Srdce Ježíšova“