Zijn carrière begon veelbelovend als beat- en yéyé-zanger in de sixties. Hij werd door zijn management richting Frankrijk gestuurd met "Soufflé", een cover in het Frans van "Breathless". Toen de doorbraak daar niet gebeurde, richtte hij zijn schreden naar Vlaanderen en evolueerde in een heel nieuwe richting. Zijn grootste hits zijn "Zo mooi, zo blond en zo alleen", waarop hij wordt begeleid door de J.J.Band (zie Jess & James). Zijn tweede meest beroemde hit is "Rozen voor Sandra", een cover van "Roses to Reno", geschreven door Billy Sikes en Wayne Walker. Twee dagen na zijn 50ste verjaardag wordt bij Jimmy kanker vastgesteld. Hij staat erop dat dit bekend gemaakt wordt om zo het taboe rond kanker te doorbreken. De VTM actie "Levenslijn" waarvan Jimmy Frey het boegbeeld werd, haalt het bedrag van 4.462.083,45 euro op ter bestrijding van kanker.