1964-ben a FC Vilshofen csapatában kezdte a labdarúgást. 1975-ben igazolta le a Bayern München, ahol 1976-ban mutatkozott be az első csapatban. 1976 és 1991 között hét alkalommal lett bajnok és háromszor nyert nyugatnémet kupát az együttessel. Kétszer volt tagja a bajnokcsapatok Európa-kupája döntőjében szereplő csapatnak. 1981–82-ben az Aston Villa ellen 1–0-ra, 1986–87-ben az FC Porto ellen 2–1-re kapott ki a bajor csapat. Utóbbi döntőn Augenthaler nem lépett a pályára. 1984-től visszavonulásáig a Bayern csapatkapitánya volt. Összesen 404 Bundesliga mérkőzésen 52 gólt szerzett[1] és 89 európai kupa mérkőzésen lépett a pályára.[2] a Bayern színeiben. 2005-ben a Bayern München történetének legjobb tizenegyébe választották be a szurkolók.[3]
1991 és 1997 között a Bayern Münchennél dolgozott az ifjúsági csapat edzőjeként, valamint segédedzőként Søren Lerby, Erich Ribbeck, Franz Beckenbauer, Giovanni Trapattoni és Otto Rehhagel mellett. Az 1995–96-os idény utolsó fordulójában a Fortuna Düsseldorf ellen ő irányította csapat szakmai munkáját.[4] Első vezetőedzői megbízatása 1997 és 2000 között az osztrák Grazer AK csapatánál volt.[5] Az első két idényben bajnoki bronzérmes lett az együttessel. Az 1999–2000-es idény téli szünetében elhagyta Grazot és az 1. FC Nürnberg vezetőedzője lett 2000. március 2-án[6] és a csapatot a másodosztályból a feljutáshoz segítette 2001-ben. 2003. április 29-én a Nürnberg felmondott Augenthalernak, miután a csapat a kiesés sorsára jutott.[7]
2003 májusában átvette a Bayer Leverkusen szakmai irányítását[8] és sikerült a csapatot megmenti a kieséstől. 2005. szeptemberi kirúgásáig volt az együttes vezetőedzője.[9]
