Además de sus discos en solitario, ha sido uno prolífico músico de sesión colaborando en cientos de grabaciones para otros artistas entre los que se encuentran Steely Dan, Al Jarreau, Michael Franks, Spyro Gyra o Randy Crawford entre otros muchos mas.
Incluso ha compuesto diferentes bandas sonoras para series de TV y del cine como la famosa serie “Hill Street Blues”, lo que que le valdría ganar el premio Grammy en 1981.
Su primer trabajo fue el álbum “With A Little Help From My Friends” lanzado en 1968, el cual tuvo una gran aceptación por parte del publico y la critica a nivel mundial. Ya a principios de los 70 pasa a formar parte de la banda de jazz rock The Crusaders, con quienes graba once álbumes empezando por “Crusaders 1” (1972), hasta “Those Southern Knights” (1976), sin embargo este ultimo ya como músico invitado, y participando en posteriores trabajos del grupo, aportando en todos ellos sus propias composiciones y su estilo melódico con su famosa guitarra Gibson ES-335.
Una guitarra que el propio Carlton le daría el apodo de “Mr.335”, creando incluso su propio estudio de grabación el cual llamaría “Room 335”.
Una vez abandono The Crusaders, Larry Carlton firmaría con la Warner Bros y lanzaría una retahíla de grandes álbumes enfocados al jazz fusión.
Entre esos álbumes destacan trabajos como el debut “Larry Carlton” (1978), el directo "Mr. 335: Live in Japan"(1979), o los brillantes "Sleepwalk" (1981), "Strikes Twice" (1981), "Eight Times Up” (1983) o "Friends"(1983).
Todos ellos con unas exquisitas producciones, repletas de ricos matices y una gran variedad de estilos en donde se dan cabida bajo el estilo jazzistico, el rock, el funk, el soul y el blues.
En 1985 con su noveno disco "Alone But Never Alone", logra alcanzar el número uno en el Billboard Jazz, e incluso consiguió otro premio Grammy por el tema "Minute by Minute" y recibió una nominación en la categoría "Mejor Interpretación de Jazz Fusión" por su álbum en directo "Last Nite" (1986).
A finales de la década de los ochenta publica su álbum mas rock hasta entonces “On Solid Ground”, pero antes de la salida de ese álbum tiene lugar un hecho que marcara la vida de Larry Carlton. Una noche a la salida del estudio de grabación, un individuo desconocido le propina varios disparos que esta a punto de acabar con su vida.
Este dramático hecho le llevaría a un largo proceso de hospitalización seguido de interminables y dolorosas sesiones de recuperación. Algún tiempo después el guitarrista empieza a reconstruir su vida personal y profesional disminuyendo drásticamente sus apariciones en vivo, aunque poco a poco retomaría su carrera como músico de sesión, llegando a la asombrosa cantidad de cerca de las tres mil colaboraciones a mediados de los noventa
A finales del siglo 20, participaría en el proyecto Fourplay, una súper banda de jazz formada por Bob James, Nathan East y Harvey Mason y con quienes ha grabado un total de diez álbumes.
