Germain est né à Appoigny près d’Auxerre vers 378, au sein d'une famille de grands propriétaires. Il étudie à Autun puis à Rome. Avocat et haut fonctionnaire de l'Empire, il se marie. Après la mort de l'évêque Amâtre d'Auxerre en 418, les clercs, la noblesse et toute la population le réclament comme évêque. Il accepte contraint et forcé et change alors complétement de vie. D'épouse, sa femme devient une sœur ; il distribue sa fortune aux pauvres, dort sur un grabat. Il est ordonné le dimanche 7 juillet 418.
Menant une vie ascétique très rude et pratiquant l'hospitalité, Germain fonde le monastère Saint-Cosme et Saint-Damien, en face de la ville, de l'autre côté de l'Yonne, pour attirer les foules à la foi catholique. Saint Patrick, l'apôtre de l'Irlande, y vécut longtemps avant son sacre par Germain lui-même, en 432.
En 429, le pape Célestin I° envoie Germain en Grande-Bretagne pour y combattre l'hérésie pélagienne. Il s'y rend avec l’évêque Loup de Troyes. En passant à Nanterre, près de Paris, Germain distingua la petite Geneviève à laquelle il prédit que sa vie serait consacrée à Dieu. En Grande-Bretagne, Germain et Loup, soutinrent un débat en présence d'une grande foule et réfutèrent les arguments des pélagiens. Ils firent ensuite un pèlerinage au sanctuaire du premier martyr de l'île, saint Alban, probablement à Verulam. Quelques années plus tard, Germain, se rend auprès du préfet des Gaules à Arles pour plaider la cause de ses diocésains accablés d'impôt. Il obtiendra satisfaction et rencontrera à cette occasion l'évêque Hilaire, qu’il qualifiera : « d’homme de grande valeur par ses diverses vertus... torrent d'éloquence divine enflammé par la foi et ouvrier infatigable pour l'enseignement divin ». Ils se reverront plusieurs fois.
Germain fera un deuxième voyage à Londres pour combattre l’hérésie pélagienne, cette fois-ci accompagné de Sévère évêque de Vence. A peine rentré en 447 il part pour Ravenne, alors capitale de l’empire d’Occident, afin d’obtenir de l’empereur Valentinien la grâce des Armoricains qui s’étaient révoltés contre leur gouverneur. C’est là qu’il décédera quelques jours plus tard le 31 juillet 448. Son corps fut ramené en procession à Auxerre le 22 septembre et enseveli dans le tombeau qu’il avait préparé dans le petit oratoire Saint-Maurice au nord d'Auxerre. La sainte reine Clotilde y édifiera entre 493 et 545 une basilique qui prit bientôt le nom de Saint-Germain.