Hermano menor del también trompetista, Leon Prima, Louis empezó a tocar la trompeta muy joven y de forma autodidacta, en Texas cuando la orquesta de Pet Kelly estaba en aquella localidad y su hermano formaba parte de ella. En 1922 formó su primer grupo en el que también estaba Irving Fazola. Tras unos tres años de actividad, a finales de los años veinte reformó su grupo y logró actuar en el "Saenger Theatre" y en otros locales de New Orleáns. En 1934 se traslada a New York para actuar en la famosa Calle 52 y mas en concreto, en el club "Famous Door" uno de los siete clubes de jazz que en aquella epoca existían en la "Swing Street", como era conocida en los ambientes musicales de Harlem.

     Por su grupo fueron pasando grandes solistas , entre los que cabe destacar, George Brunis, Sidney Arodin, Claude Thornill, George Van Eps, Pee Wee Russell, o Eddie Miller. Su éxito, debido no tanto a sus cualidades como trompetista, dado que en la mayoría de las ocasiones se limitaba a imitar los sonidos de la trompeta de Louis Armstrong, se fraguó por su capacidad de showman dentro de un escenario. Su característica voz ronca, y sus dotes de interpretación, agradaban al publico que noche tras noche, pasaban por los clubes en busca de diversión , por encima de la calidad de la música. Sus discos mas representativos, desde el punto de vista jazzistico, son los primeros de su carrera, grabados en su mayoría para el sello Capitol, y en especial el grabado en 1957 y titulado: "The Wildest". Dos años mas tarde grabaría en directo desde el club Tahoe, uno de sus discos en directo importantes, titulado: "The Wildest show at Tahoe"

     A partir de mediados de los años cincuenta, formó pareja profesional con su mujer, Keely Smith, actuando en los mas elegantes night clubes de New York, Los Ángeles, Hollywood y Las Vegas. Louis Prima tuvo también la habilidad de ser el autor de algunos temas celebres, como "Robin Hood", "Angelina" y sobre todo el maravilloso "Sing, Sing, Sing", uno de los temas del swing mas electrizantes de la historia y que popularizó el clarinetista Benny Goodman en el celebre concierto de Enero de 1938 en el Carnegie Hall. Años después, "Sing, Sing, Sing" sería utilizado con profusión en numerosas películas del cineasta Woody Allen, como por ejemplo la espectacular "Asesinato en Manhattan".