Nato in Olanda, Jan Willem Jansen compie gli studi musicali con Jan Warmink, Willem Mesdag e Wim van Beek. Nel 1977 consegue il diploma di solista al Conservatorio Reale de L'Aia e si perfeziona successivamente con Ton Koopman ad Amsterdam. Si trasferisce, quindi, in Francia dove lavora al fianco di Xavier Darasse, del quale diventa collaboratore pedagogico al Conservatorio di Tolosa.

In questo istituto è cofondatore del dipartimento di musica antica ed assume, a fianco di Michel Bouvard, la responsabilità del nuovo dipartimento superiore di Organo e Clavicembalo.

Oltre al suo ruolo d'insegnante, la sua attività di interprete lo porta a suonare con i migliori ensemble barocchi europei, tra i quali La Chapelle Royale di Parigi, il Collegium Vocale di Gand (Philippe Herreweghe), Hesperion XX (Jordi Savall), Les Sacqueboutiers e l'Ensemble Baroque di Limoges (Christophe Coin).

È titolare dell'organo Ahrend del Musée des Augustins e della Basilica di Notre-Dame de la Daurade a Tolosa.

In occasione del festival Toulouse les Orgues 1997 ha registrato per l'etichetta Tempéraments l'integrale dell'opera organistica di Bruhns, completata con le cantate dello stesso compositore interpretate dal Parlament de Musique sotto la direzione di Martin Gester. Nel 1998 incide l'opera di Cabanilles sull'organo storico della chiesa di San Pablo a Saragozza.

Ha partecipato al festival Fiori Musicali nel 2011