1965-től kezdve aztán Coltrane zenészpartnere lett egészen a legendás szaxofonos két évvel későbbi haláláig, számos emblematikus albumon működött közre, így az Ascension, a Meditations, a Kulu Sé Mama, az Om című lemezeken. Coltrane ekkoriban kezdte magáévá tenni az Albert Ayler, Sun Ra és Cecil Taylor által kifejlesztett nyers, atonális, free játékstílust, játékára Sanders hosszú, féktelen, disszonáns szólói is nagy hatással voltak. (A fenti, Seattle-ben készült koncertfelvétel jó képet ad Sanders agresszív stílusáról.) Első saját lemeze 1965-ben jelent meg, majd a nagynevű Impulse! lemezkiadóhoz szerződött, ők adták ki talán legsikeresebb albumát, Karmá-t, amely a free jazz könnyebben befogadható, lírai oldalát mutatja meg. Az albumon található leghíresebb felvétele, a 32 perces, spirituális-pszichedelikus hangulatúThe Creator Has a Master Plan (a szerzeményt utolsó lemezén Louis Armstrong is feldolgozta).
A hetvenes évektől Sanders lemezkiadótól lemezkiadóhoz vándorolt, eközben – a coltrane-i örökség megőrzése mellett – tradicionálisabb stílusban kezdett játszani, az afrikai ritmusokból, az R&B-ből, a modális jazzből és a hard bopból inspirálódott. 1995-ben újra egy jelentős kiadó, a Verve jelentette meg albumát, a zeneipartól megundorodva azonban csakhamar otthagyta a céget. Sanders a mai napig töretlenül koncertezik, a nagy jazzfesztiválok rendszeres vendége. Blues for Coltrane című, 1987-es tiszteletadó albumáért Grammy-díjat kapott. Ornette Coleman „a világ minden valószínűség szerint legnagyobb tenorjátékosának” nevezte, Albert Ayler pedig úgy vélte, a free jazz kialakulásában Coltrane volt az Atya, Pharoah a Fiú, ő pedig a Szentlélek.