Ponty hatte als Kind von Musiklehrern ab dem sechsten Lebensjahr Geigenunterricht und wurde dann am Pariser Konservatorium als klassischer Violinist ausgebildet; sein Interesse am Jazz wurde unter anderem durch die Musik von Miles Davis und John Coltrane geweckt. 1960 und 1961 arbeitete er zunächst als Musiker im Sinfonieorchester Concerts Lamoureux, begann aber zugleich nachts in den Jazzclubs von Paris zu spielen. Bis 1964 war er Mitglied des Orchesters von Jef Gilson. Anschließend gründete er eine eigene Gruppe. Das Quartett mit Wolfgang Dauner, Daniel Humair und Niels-Henning Ørsted Pedersen war international erfolgreich; er begann, eine elektrische Violine zu verwenden, die er eine Oktave tiefer als die klassische Violine stimmte.
Seit 1977 verwendet er manchmal eine fünfsaitige Violine mit einer zusätzlichen tiefen C-Saite, außerdem eine sechssaitige so genannte Violectra mit zusätzlichen tiefen C- und F-Saiten. Ponty gehört zu den ersten Musikern, die die Violine mit Wah-Wah-Pedal, Verzerrern und anderen Effektgeräten kombinierten, wodurch er seine typische, manchmal synthesizer-ähnliche Klangfarbe erzeugt.
Bereits seit Mitte der 1990er Jahre, im Trio Rite of Strings mit Gitarrist Al Di Meola und Bassist Stanley Clarke, spielte er auch akustische Violine. 2005 gründete Ponty die akustische Fusion-Jazz-SupergroupTrio! mit Stanley Clarke und dem BanjospielerBéla Fleck.
