A Minnesotában nevelkedő Rapp gyerekkora óta gitározott, nyolcévesen egy tehetségkutatón megelőzött egy bizonyos Robert Zimmermannt, azaz a későbbi Bob Dylant is, majd Floridába költözve alapította meg barátaival a Pearls Before Swine-t (magyarul Gyöngyök a disznó elé) a hatvanas évek közepén. A zenekarnak Rapp maradt az egyetlen állandó tagja, és a későbbi lemezeit már szólóban készítette el. A Pearls Before Swine a hippikorszak háborúellenes kiállásához csatlakozott, a kornak megfelelő pszichedelikus, folkos zenei világgal, noha Rapp később azt nyilatkozta, pont az első lemezek idején még semmilyen kábítószert nem próbált ki, mégis azt tekintik a „legdrogosabbnak”.
A Pearls Before Swine hat albumot jelentetett meg, és hiába játszott együtt olyan nagy nevekkel, mint a Pink Floyd és Phil Ochs, megmaradt kultzenekarnak, noha Elton John egyik legnagyobb sikerét, a Rocket Man című számot a Pearls Before Swine hasonló című dala ihlette, mint azt a szövegíró Bernie Taupin később elmondta. Rapp inkább más zenészekre volt nagy hatással, ő maga sosem adott el sok lemezt, ezért is hagyott fel a zenéléssel 1973-ban, hogy ügyvédként folytassa tovább. Ő azonban továbbvitte a hippikorszak szellemiségét azzal, hogy emberi jogi eseteket vállalt ügyvédként is, noha a kilencvenes években egy lemez erejéig visszatért a zenéhez. Tom Rapp február 11-én, 70 éves korában halt meg a floridai Melbourne-ben.
