Hijo de un vendedor de muebles, el guitarrista Chuck Wayne, se dedicó en la adolescencia a tocar la mandolina aunque solo fue en 1941 cuando empezó a dedicarse profesionalmente al jazz adoptando la guitarra como instrumento. Sus primeros trabajos fueron oscuros acompañamientos en la Calle 52 junto a Clarence Profit y Nate Jaffe. Interrumpió su carrera en 1942 para incorporarse al Ejercito y cuando se licenció, entró en la formación de Joe Marsala, con el que actuó en el "Hickory House" hasta 1946. 

     Entre 1947 y 1949 , firmó un contrato con Woody Herman y en el seno de su orquesta fue un brillante guitarrista y un pilar fundamental en su sección de cuerdas, en la que estuvo mas de ocho años; ésa experiencia le dio la oportunidad de participar, bajo la dirección de Igor Stravinsky, el celebérrimo concierto: "Ebony Concert" para el sello Columbia. Tras dejar a Herman tocó en el cuarteto de Phil Moore, y en el trío de Bárbara Carroll. Entre 1948 y 1952, obtuvo el que seria el contrato mas importante de su carrera cuando se enroló en el quinteto del pianista, George Shearing, con el que recorrió medio mundo y donde tuvo la oportunidad de darse a conocer en los círculos jazzisticos.

     Dirigió en la segunda mitad de la década de los cincuenta, su propio grupo en New York y casi al final de 1959, formó pare del elenco de artistas de la orquesta que acompañaba al cantante Tony Bennett. Toda la década de 1960 estuvo formando parte de la orquesta estable del sello CBS lo que le hizo desaparecer prácticamente de los escenarios hasta bien entrada la década de los setenta. En 1973 formó un excelente dúo de guitarristas con Joe Puma con quién además de tocar en clubes, festivales y conciertos, grabó un excelente disco titulado: "Interactions". Fue también muy destacable, su presencia en el Festival de Jazz de Newport de 1973.  

     En los años ochenta fundó el Westchester Conservatory of Music, en un suburbio de New York con la intención de acercar a la música a las clases mas desfavorecidas de la ciudad, y allí se dedicó hasta el final de sus días a ejercer de compositor, maestro y educador de las nuevas generaciones de músicos en la Gran Manzana.