Ο Καραβαγγέλης γεννήθηκε στη Στύψη της Λέσβου στις 16 Ιουνίου του 1866, από Ψαριανό πατέρα. Μεγάλωσε στο Αδραμύττιο της Μικράς Ασίας, όπου μετακόμισε η οικογένειά του, όταν ήταν δύο χρονών. Από το Αδραμύττιo θα φύγει νέος πια, με υποτροφία που του χορηγεί, εκτιμώντας την ευφυΐα του, την φιλομάθειά του και το παρουσιαστικό του, ο Μητροπολίτης Εφέσου Αγαθάγγελος, για να σπουδάσει στη Θεολογική Σχολή της Χάλκης, από την οποία θα αποφοιτήσει με άριστα το 1888. Σπούδάσε επί τριετία φιλοσοφία στο Πανεπιστήμιο της Λειψίας και της Βόννης.
Μετά την ανακήρυξή του σε διδάκτορα επέστρεψε στη Κωνσταντινούπολη, όπου το 1891 διορίστηκε καθηγητής της Θεολογικής Σχολής της Χάλκης.
Το 1896 χειροτονήθηκε επίσκοπος Πέραν με τον τίτλο "επίσκοπος Χαριουπόλεως", όπου και ανέπτυξε σπουδαία δράση, αφενός καταπολεμώντας ξένες προπαγάνδες και αφετέρου για την ελληνοπρεπέστερη μόρφωση των Ελλήνων μαθητών.
....
Το 1900 τοποθετείται Μητροπολίτης Καστοριάς, από τον Πατριάρχη Κωνσταντίνο Ε΄. Από της ενθρόνισής του άρχισε με τους λόγους του να εμψυχώνει και να αναπτερώνει το ηθικό των Ελλήνων της περιοχής και να οργανώνει ένοπλα σώματα κατά των ομοίως ενόπλων Βουλγάρων Εξαρχικών, που επιχειρούσαν την προσάρτηση των ελληνογενών χριστιανικών πληθυσμών στη Βουλγαρική Εξαρχία.
......
Παράλληλα, στην πολιτική σκηνή ζήτησε την επίσημη παρέμβαση του Ελληνικού Κράτους στον Αγώνα, προκειμένου να μη μένει η πρωτοβουλία στους Βουλγάρους. Βέβαια το αίτημά του εκείνο είχε περισσότερο θρησκευτικό χαρακτήρα, παρά εθνικο-κεντρικό. Οι προσπάθειές του εκείνες, στέλνοντας σχετικές εκθέσεις στους Έλληνες πρωθυπουργούς Α. Ζαΐμη και Θ. Δεληγιάννη, τελικά απέδωσαν, όταν το 1904 η Ελλάδα -υπό την πίεση και της κοινής γνώμης- απεφάσισε την ενεργή συμμετοχή της στον ένοπλο αγώνα αντίστασης. Ο ελληνικός κλήρος, ως ήταν επόμενο, υποστήριξε με μανία την τότε επιχείρηση του ελληνικού κράτους, με συνέπεια ο μητροπολίτης Γερμανός Καραβαγγέλης να καταστεί ο μεγαλύτερος εχθρός του Βουλγαρικού Κομιτάτου.
........
Στα επόμενα 7 χρόνια (1900 - 1907) όπου γενικεύτηκαν οι καταστροφές και οι σκοτωμοί, ως μητροπολίτης Καστοριάς ύψωσε το σύνθημα «Βούλγαρος να μη μείνει». Από κοινού με τον αξιωματικό του ελληνικού στρατού Βάρδα, ο Καραβαγγέλης εμπνέει και δημιουργεί τις απαραίτητες προϋποθέσεις για την εκδίκηση των σφαγών, που συγκλόνισαν τότε τον κόσμο.
---------
Το 1908, με το τέλος του Μακεδονικού Αγώνα η Οθωμανική κυβέρνηση απαίτησε, μετά από επιμονή στο Πατριαρχείο, την μετακίνησή του Γερμανού, οπότε εξελέγη και
ανέλαβε Μητροπολίτης Αμασείας του Πόντου, με έδρα την Σαμψούντα. Ο Γερμανός και εκεί ανέπτυξε έντονη δράση, δημιουργώντας σχολεία και ιδρύοντας γυμνάσιο, αλλά και ένοπλες ομάδες κατά των Τούρκων ατάκτων, που λυμαινόταν την περιοχή. Το 1913 ως μητροπολίτης Αμασείας διετέλεσε τοποτηρητής του πατριαρχικού θρόνου της Κωνσταντινούπολης.
Αντιστάθηκε σθεναρά στις διώξεις των Νεοτούρκων, αφιερώνοντας τις δυνάμεις του στην υπεράσπιση των δικαίων των Ελλήνων και Αρμενίων. Για τις ενέργειές του αυτές συνελήφθη και στάλθηκε δέσμιος στην Κωνσταντινούπολη, όπου και φυλακίστηκε το 1917 για κάποιο χρονικό διάστημα. Στις 10 Μαρτίου 1921 ο Γερμανός πρότεινε στον υπουργό εξωτερικών της Ελλάδας, Μπαλτατζή, συνεργασία με Κούρδους και Αρμένιους εναντίον του εθνικιστικού κινήματος του Μουσταφά Κεμάλ. Η ποντοαρμενική συνεργασία αποσκοπούσε στην ίδρυση μιας αυτόνομης χριστιανικής δημοκρατίας (κράτους) στην περιοχή του Πόντου. Η κυβέρνηση όμως του Γούναρη, απομονωμένη από τους συμμάχους, δεν πήρε καμιά πρωτοβουλία. Αργότερα το 1924 ο Γερμανός Καραβαγγέλης τοποθετήθηκε έξαρχος του Οικουμενικού Πατριαρχείου στη Βιέννη.
Πέθανε πάμπτωχος στις 11 Φεβρουαρίου του 1935 στη Βιέννη. Τα απομνημονεύματα που έγραψε ειδικά για τον Μακεδονικό Αγώνα, εκδόθηκαν από την Εταιρεία Μακεδονικών Σπουδών το 1959. Το ίδιο έτος το «Ίδρυμα Μελετών της Χερσονήσου του Αίμου» από κοινού με την «Εταιρεία Μακεδονικών Σπουδών» επιχορήγησαν τη μεταφορά των οστών του με τιμητική συνοδεία αρχικά στη Θεσσαλονίκη και στη συνέχεια στην Καστοριά, όπου και τοποθετήθηκαν σε κρύπτη κάτω από τον ανδριάντα του.