Wiseman 1918-ban született Montrealban, s kisfiúként költözött szüleivel az Egyesült Államokba. A harmincas években Broadway-szerepekkel kezdte színészi karrierjét. A filmvásznon és tévéképernyőn is számos alkotásban tűnt fel, többek között a Kitaszítva (Nincs bocsánat) című filmben, vendégszereplőként a San Francisco utcáin című krimisorozatban vagy az Esküdt ellenségekben.
Leghíresebb szerepe azonban kétségtelenül a James Bond: Dr. No című 1962-es film főgonosza, Dr. Julius No volt. A 007-es ügynök első ellenfelének számító őrült tudós megformálásával Wiseman nagyban hozzájárult a kémfilm folyamatosan növekvő népszerűségéhez.
Lánya, Martha Graham Wiseman a Los Angeles Times című lapnak nyilatkozva kiemelte: édesapja emlékét színházi karrierje révén is megőrzik majd.
Joseph Wisemant utoljára 2001-ben láthatta színpadon a közönség: A nürnbergi per című film Broadway-adaptációjában egy idős tanár szerepében bűvölte el a nézőket.