A lengyel-litván származású Cohen először irodalommal foglalkozott – első verseskötete még 1956-ban, 22 éves korában jelent meg. 1961-es második kötetével már közismertté vált a kanadai irodalmi körökben. Az 1960-as években visszavonultan élt, egy görög szigetre költözött, ahol egy verseskötetet és két regényt is megírt – ezek magyarul A kedvenc játék és Szépséges lúzerek címmel jelentek meg.
1967-ben az Egyesült Államokba költözött, ahol elkezdte énekes-dalszerző pályafutását. Itt figyelt fel rá egy lemezkiadó képviselője, John Hammond, aki Billie Holiday, Bob Dylan és Bruce Springsteen karrierjét is egyengette.
Cohennek mintegy másfél tucat lemeze jelent meg. 1994-től öt évet a világtól elzárkózva töltött, eközben buddhista szerzetessé szentelték. 1999-ben hagyta el a Mount Baldy buddhista központot és tért vissza a művészethez.