A mai Köln történetéről szóló első írásos feljegyzések szerint a Rajna bal partjának e részén valamikor az Kr. e. II–I. században telepedett le egy germán törzs, őket azonban letörölte a föld színéről a Kr. e. 55-ben Julius Caesar által Germániába indított hadjárat. Helyükre a rómaiakkal kiegyező Ubii törzs telepedett le, településüket a rómaiak Oppidum Ubiorum néven emlegették. A település mellett két római légió is állomásozott, és itt volt Germanicus főhadiszállása is, amikor a tartományban tartózkodott.
Germanicus lánya, Agrippina Minor is itt született Kr. e. 15-ben. Agrippinából 49-ben lett a Római Birodalom legbefolyásosabb asszonya, amikor Claudius negyedik feleségeként császárné lett (neki egyébként a harmadik házassága volt ez). Valódi érdekházasságról volt szó, Claudiusnak felesége befolyására és előkelő származására volt szüksége hatalma stabilizálásához, Agrippina pedig fiának, a később a Nero nevet felvevő Luciusnak igyekezett ezzel a lépéssel megnyitni a trónhoz vezető utat.
Claudius ettől még újdonsült férjként kedveskedett a feleségének kisebb-nagyobb ajándékokkal, például az asszony kérésére beleegyezett abba, hogy születésének helyét városi rangra emelje, azaz a colonia rangot adományozza Oppidum Ubiorumnak. Az intézkedés valamikor Kr. u. 50. első hónapjaiban történt, a város új neve hivatalosan Colonia Claudia Ara Agrippinensium lett.
Ez jelentős előnyöket és többletjogokat biztosított a településnek, amely ráadásul a frissen megalapított Germania Inferior provincia központja is lett, két évtizeddel később pedig már erős falak is védték a gyors fejlődésnek indult várost, amelynek a III. századra nagyjából 20 ezer lakója lett. Nem véletlen, hogy a IV. században Constantinus is itt építtetett hidat a Rajnán, és hiába érték súlyos károk a várost a római polgárháborúk, majd a germán betörések idején, a város újra és újra fontos világi és egyházi központként éledt újjá.
