Nacido en la entonces denominada República Democrática Alemana, el pianista Joachim Kühn recibió junto a su hermano las primeras lecciones de piano y composición de la mano de Arthur Schmidt-Elsey, entre 1949 y 1961. Su debut en un concierto con público se produjo en 1949 interpretando música de Robert Shumamn, y hasta 1961, sólo tocaba música clásica.

     Se hizo  músico de jazz cuando entró a formar parte del quinteto denominado "S + H" y entre 1962 y 1966, todavía viviendo en la zona Oriental de Alemania, dirigió su propio trío que tuvo la habilidad de ser el primer grupo de freejazz en Europa. En 1966 se trasladó a Hamburgo junto a su hermano y tocó en su cuarteto hasta 1969. Joachim Kühn aprovechó con habilidad su calidad para tocar al lado de los músicos de jazz que desembarcaban en la vieja Europa desde Norteamérica y en ése sentido tocó al lado del saxofonista, Phil Woods y de otros músicos. Formó parte del grupo de jazz experimental denominado: "Association P.C" y con él recorrió, Asia, Norte de África, Portugal y España. 

     A mitad de los años setenta contactó con músicos norteamericanos provenientes del llamado Jazz rock. Firmó por el sello WEA dejando atrás sus etapa con el sello alemán MPS, demasiado clásico para su música, y mas adelante rompió amarras con sus músicos europeos (Daniel Humair, Aldo Romano y Jenny Clark, principalmente) y decidió tocar sólo con bateristas y músicos provenientes del jazz rock. Tras una década experimentando con ésa música retorna a Europa y a su regreso reúne a sus amigos y celebra con ellos un extraordinario concierto en el teatro dela villa de Paris en 1989.