John Colirane出生于美国的北卡罗来纳州。在军队服役时，就在海军乐队里担任萨克斯手，1946年在费城定居，先后和当地几个著名的乐队一起合作，在这期间，Colirane的演奏技巧有了很大的提高，同时也为他日后的成功奠定了坚定的基础。
1955年Coltrane加入Miles Davis（迈尔斯·戴维斯）乐队。开始，很多人对Colitrane的演奏技巧产生怀疑，但Miles Davis则觉得Coltrane的演奏不同寻常，有着巨大的潜力。不久，Coltrane便超过了乐队其他成员，在演奏中担当重要角色。1955年至1956年，他和Miles Davis一道为显赫唱片公司和哥伦比亚唱片公司灌制唱片。此时的Coltrane 已小有名气。1957年，因为吸食***，Miles Davis开除了Coltane。Coltane离开Miles Davis乐队后，永远的戒掉了这个恶习，显示出他过人的毅力。在和钢琴家特洛尼斯·蒙克合作了数月后，在1958年，Coltane重新加入了Miles Davis乐队。和家特洛尼斯·蒙克的合作，已使Coliane成为一名优秀的次中音萨克斯手。在以后与Miles Davis合作的两年中，Coltane把即兴演奏带入了一个新的领域，使Bebop音乐有了历史性的突破。在这一时期Coltane还与亚特兰蒂克公司合作，推出了著名的作品《巨人的脚步》。1960年，Coltane离开了Miles Davis乐队，这使他的演奏风格有了很大的变化，开始从尽可能的采用**，转变到充满**的即兴伴奏。1960年，Coltane与他的乐队为亚特兰蒂唱片公司录制了《我之所爱》。
1961年到1964年，Coltane继续演变他的风格特点。他将艾里克·多菲吸收到了乐队，并在61年的下半年为前卫村唱片公司录音，这使他被一些保守的评论家称之为反爵士乐。但是Coltane的演奏还是非常动听，有时独奏会长达45分钟之久，在《我想和你谈谈中》，Coltane运用了精彩的华彩乐段，使人震惊。1964年，他录制了名曲《至高无上的爱》，又反映出他对东方宗教的兴趣。
1965年，Coltane的音乐发生了变化，受艾伯特·埃耶勒、阿齐·舍普和帕罗阿·桑德斯无调性音乐的影响，Coltane改变了他原本古典的唯美风格，在放弃了大多数的旋律后，转向声音方面的探索，并在自己的音乐中采取了快速处理的方式。
1966年，Coltane组建了他的一支五人乐队，但是就在他的事业大获成功的时候，却被病魔夺去了生命。1967年，Coltane因过度工作而死于肝癌。
Coltane的一生短暂却辉煌，他在萨克斯演奏中的成就是没有人能超过的，而他在爵士乐史上的权威地位也是无人能代替的。