Na vier jaar zangervaring opgedaan te hebben in het koor De Zangertjes van Volendam, wordt Jan (toen nog Jantje) in 1996 door BZN uitgenodigd voor de opnamen van een duet met Carola Smit. Het nummer Mama wordt een grote hit en Jantje maakte zijn televisiedebuut tijdens de uitzending van de BZN A Symphonic Night tv special.
De eerste eigen, door BZN geproduceerde, single Ik Zing Dit Lied Voor Jou Alleen breekt in 1997 binnen twee weken het unieke record van The Beatles en Procal Harum door van niets op 1 binnen te komen in de Top 40. Het levert hem een vermelding in het Guiness Book of Records op als eerste Nederlandse artiest die dit ooit heeft bereikt. Zijn gelijknamige debuut- cd levert Smit dubbel platina op.
Sinds die tijd gaat het erg hard met de rijzende ster van dit muzikale baasje uit Volendam. Hij is niet alleen een van de meest gevraagde artiesten in Nederland maar inmiddels ook in Duitsland waarvoor hij van de Stichting Conamus de exportprijs mocht ontvangen. Hij heeft inmiddels een eigen reality-soap op tv gehad, heeft een eigen kledinglijn en zijn albums gaan als warme broodjes over de toonbank.
