Az építész 1918-ban Koppenhágában született. Stílusára elsősorban a skandináv funkcionalizmus volt hatással, de fiatalkorában tett mexikói és marokkói tanulmányútjainak lenyomata is felfedezhető rajta.
1957-ben nyerte el a megbízást a ma az ausztrál nagyváros jelképének számító operaház megtervezésére. Az építési munkálatok 1959-ben kezdődtek meg, s 1973-ban fejeződtek be. Maga a tervező azonban 1966-tól nem vett részt a munkában, mert számos vitája volt a megrendelővel. A feszültség egyik forrása az volt, hogy a költségek a tervezett sokszorosára rúgtak. A kivitelezésben – főként a belső terek kialakításában – végül számos ponton eltértek Utzon elképzelésétől. Az építész soha nem járt a kész épületben.
Az operaház a modern építészet egyik legismertebb alkotása, Sydney jelképe lett. Az ENSZ Nevelésügyi, Tudományos és Kulturális Szervezete (UNESCO) tavaly a világörökség részévé nyilvánította az épületet.
Utzon tervei alapján készült a kuvaiti nemzetgyűlés épülete és számos ismert dán középület is. 2003-ban Pritzker-díjjal, az egyik legnevesebb építészeti díjjal tüntették ki.