Sus padres eran músicos y recibió lecciones de ellos, (especialmente de su madre) y de otros pianistas populares como Fats Waller. Durante un tiempo, tocó como acompañamiento para películas mudas. Más tarde, en Kansas, se unió al grupo de Walter Page llamado "Blue Devils". Basie dejó la banda a principios de 1928 para tocar con otras orquestas, incluida la dirigida por Bennie Moten. Tras su muerte en 1935, Basie trabajó durante un tiempo como solista antes de formar su propia orquesta con algunos de los músicos de la anterior, entre ellos el saxo Lester Young.
La banda de Basie tocaba en un sórdido lugar llamado Reno Club. Las bebidas costaban 15 centavos, las hamburguesas 5 centavos y los músicos ganaban solo 15 dólares a la semana por siete noches de trabajo. Al igual que ocurrió con Billie Holiday, fue el cazatalentos y promotor John Hammond quien los vio en una actuación en el local y los recomendó a varios agentes y compañías discográficas. Su primera grabación fue en la Decca Records en enero de 1937. Su grabación "One O'Clock Jump" se convirtió en su primera canción en las listas de éxitos en septiembre de 1937, más tarde después de convertirse en su canción más popular, fue incluida en el Salón de la Fama de los Grammy.
El regreso de Basie a Nueva York tuvo lugar en 1938 en el club Famous Door, donde obtuvieron un gran éxito. En el invierno de ese año, "Stop Beatin 'Round the Mulberry Bush" cantada por Rushing, entró en el Top Ten de éxitos. A principios de la década de 1940 realizó una extensa gira por el país, que duró hasta que ingresó los Estados Unidos en la Segunda Guerra Mundial en diciembre de 1941, tras lo cual sus giras se redujeron drásticamente.
Durante su estancia en la costa oeste participó con su orquesta en cinco películas, todas realizadas en 1943. Tuvo numerosos éxitos musicales tanto en el campo del jazz como en el rhythm and blues: "I Didn't Know About You", "Red Bank Blues","Rusty Dusty Blues", “Jimmy's Blues" y "Blue Skies".
A finales de la década de los 40 disolvió su orquesta en un contexto de decadencia generalizada de las big bands y se decantó por un tiempo por bandas mas reducidas. En 1952, sin embargo volvió a formar una big band con miras a realizar una gira por todo el mundo dos años mas tarde en 1954, precisamente el mismo año en que se uniría el cantante Joe Williams (que estaría con él hasta 1960).
Con Williams publicó en 1955 uno de sus títulos más reconocidos, “Count Basie Swings - Joe Williams Sings”, del cual la canción "Every Day (I Have the Blues)" obtendría un éxito formidable alcanzando las posiciones más altas en las listas y entrando en el Salón de la Fama y un Grammy. Su versión instrumental de "April in Paris" también fue un gran éxito en 1956. Entre finales de la década de 1950 y principios de la de 1960, ganó varios premios y nominaciones al Grammy. En 1962, Basie firmó con la nueva compañía de Frank Sinatra, Reprise Records y grabó con él “Sinatra-Basie”, que entró en la lista Top Five a principios de 1963.
Todos estos éxitos populares mantuvieron a Basie alejado del jazz durante la década de 1960. Sin embargo, al final de la misma retomó el género con diferentes álbumes con cantantes como Ella Fitzgerald ("Ella y Basie", 1963); de nuevo Sinatra ("It Might As Well Be Swing", 1964); Sammy Davis, Jr. ("Our Shining Hour", 1965); los hermanos Mills ("The Board of Directors", 1968); o Jackie Wilson ("Manufacturers fo Soul", 1968). De todas estas obras destaca "Count Basie & The Mills Bothers / The Board of Directors" considerada una obra de culto, joya del jazz y el swing y una obra maestra absoluta del jazz.
