Die Anfänge unter Kaiser Konstantin d. Großen
Frühe Quellen belegen die herausragende Stellung des Bistums Köln schon in spätrömischer Zeit. Als erster Bischof wird der Hl. Maternus genannt, der nach Aussage ausländischer Zeitzeugen im Herbst 313 für die Stadt Agrippina nach Rom zur Mitarbeit in einem Schiedsgericht geschickt wird. In den Akten der Synode von Arles 314 erscheint erneut sein Name, was auf hohes Ansehen schließen lässt.
Die junge Kirche in Agrippina (= Köln) stand offensichtlich in gutem Kontakt mit dem sich in Europa unter Kaiser Konstantin ausbreitendem Christentum. (Nach den heftigen Repressionen und Verfolgungen gegen die Christgläubigen leitete Konstantin eine Wende des römischen Reiches zur Toleranz im Umgang mit ihnen ein (Konstantinische Wende). Dieser Entschluss geschah unter dem Eindruck einer Gottesvision, die dem römischen Kaiser einen wichtigen Sieg verhieß, den er auch gewann und der ihm die Alleinherrschaft sicherte. Konstantin bekehrte sich zum Christentum.) Er ließ selbst im Jahre 310 die Kölner Rheinbrücke und das Kastell Deutz erbauen und gewann seine Mutter Helena für den christlichen Glauben.
Die Rolle Kölns im römischen Reich
Um 90 n. Chr. war Köln Hauptstadt der römischen Provinzen Niedergermanien und Germania II, und hatte damit unmittelbar Anschluss an die kulturellen Einflüsse der Spätantike. Dazu gehörte im Wesentlichen eine fortgeschrittene Schriftlichkeit und die Ausbreitung des Latein. Ansonsten gibt es nur wenige Quellen zur Ausbreitung des Christentums am Rhein, und auch sie spiegeln kein vollständiges Lebensbild der frühen Zeit wieder. Es wird angenommen, dass sich das christliche Bekenntnis am Rhein langsam verbreitete, und auch schon seine Märtyrer gekannt haben muss. Vermutungen gehen dahin, dass es einzelne christliche Zusammenschlüsse loser Art gab, die ohne Ämterbesetzung unauffällig funktionierten, und kaum ländliche Gemeinden
Dennoch gab es auch nach der Legitimierung des Christentums durch Kaiser Konstantin II. heidnische Kultstätten in Köln sowie viele nichtchristliche Zuwanderer aus germanischen Gruppierungen.
Bischof Euphrates
Der zweite bekannte Bischof in Köln, Euphrates, vertrat wie sein Vorgänger Bedeutung und Ansehen der Kölnischen Kirche als Synodenteilnehmer in Serdica (Sofia) und Bischofsgesandter am römischen Kaiserhof. Aufgrund seiner Nähe zum Arianismus (griechisch-östliche Glaubensrichtung im Christentum, nach Christus nur eine gottähnliche, aber keine gottgleiche Natur besitzt) geriet Euphrates in eine Intrige und wurde 346 als Irrlehrer verurteilt und als Bischof abgesetzt.