Profesor Zimmermann studiował klasyczną indologię, tybetologię i japonistykę na Uniwersytecie w Hamburgu, gdzie uzyskał doktorat na podstawie rozprawy poświęconej początkom doktryny natury buddyjskiej w Indiach. Następnie przez kilka lat kontynuował studia na uniwersytetach w Kioto i Tokio. Później pracował przy projekcie ochrony nepalsko-niemieckich rękopisów, realizowanym przez Niemiecką Fundację Badawczą (DFG) w Hamburgu i Katmandu. W latach 2002–2003 kierował również Nepal Research Center.
Po czterech latach pracy jako adiunkt w Katedrze Religioznawstwa Uniwersytetu Stanforda w USA oraz dyrektor Stanford Center for Buddhist Studies, w 2007 roku został mianowany profesorem buddyzmu indyjskiego w Instytucie Azji i Afryki Uniwersytetu w Hamburgu.
Jego zainteresowania badawcze obejmują indyjski buddyzm mahajany we wszystkich jego formach wyrazu, ze szczególnym uwzględnieniem historii tekstów zachowanych w kanonicznych językach przekazu w Indiach, Tybecie i Chinach. Zajmuje się również etyką buddyjską, w tym relacją między buddyzmem, sprawowaniem władzy i przemocą. Interesują go także współczesne kierunki rozwoju buddyzmu w Azji i na Zachodzie.