Durante la segunda guerra mundial, él sirvió como refuerzo de la infantería en la división 63 en Francia y Alemania, de hecho si peleó en las lineas de guerra en Marzo de 1945, el dice que escapó de la muerte varias veces. Cantaba para el ejercito de vez en cuanto, se hacía llamar Joe Bari, en el ejército formó parte de varias bandas. Regresó en
Bob Hope lo lanza en el año 1950 y en ese mismo año logró un contrato con CBS, en la que conoce a Percy Faith, que desde entonces será su productor musical, consiguiendo hasta el 57 éxitos en el top 10, entre ellos Because of you y Cold, cold heart, en el 51. Y ese mismo año vendió su primer millón de discos y en esos años daba 7 shows al día, empezando a las 10:30 de la mañana.
En esos años se casó con una estudiante de arte llamada Patricia Beech, quien lo había escuchado tocar en alguna presentación, de esta relación tuvo dos hijos.
Estelarizó el Show de Tony Bennett en 1956 como lo venían haciendo personas como Perry Como.
Como les pasó a muchos cantantes del genero jazz, cuando llegó la ola británica encabezada por los Beatles, la cultura musical se centró más en el rock y estas estrellas que no estaban dentro del genero tuvieron menos éxito del que estaban acostumbrados. Recordemos que hasta Frank Sinatra llegó a declarar que esa ni siquiera era música, que quien cantaba rocanrol seguramente se había criado en la cárcel y que solo era una moda pasajera.
En 1962, obtuvo sus primeros dos Premios Grammy en las categorías Grabación del Año y Mejor Interpretación Vocal Masculina como Solista con el tema I Left My Heart in San Francisco. En los setentas y ochentas, colaboró con figuras del jazz, como Jimmy McPartland, Bill Evans, George Benson, Dizzy Gillespie y Dexter Gordon. Su fórmula para mantener vigencia fue reversionar a clásicos del jazz como Billie Holiday, Frank Sinatra, Duke Ellington, y Louis Armstrong.
En los 80 tras su segundo divorcio Tony se volvió adicto a las drogas, estuvo tratándose varias veces por sobredosis de heroína y algo que salvó su carrera fue aparecer en shows como el de David Letterman, aparecer en los Simpsons, en MTV y asi colarse a las nuevas generaciones y crear una nueva audiencia.
En 1995 le otorgaron otro Grammy. Tony Bennett fue un pintor muy bueno.
En plena vorágine de dinero, fama y éxito, aturdido por el alcohol y las drogas y acorralado por la Hacienda estadounidense, Bennett cayó inconsciente en una bañera debido a una sobredosis. Su entonces esposa lo rescató, aunque fue el principio del fin de su segundo matrimonio. Bennett parecía haber tocado fondo, pero conoció a la que fue su esposa desde ese momento y hasta el final de sus días: Susan Crow, una profesora y gran admiradora del músico cuyo primer encuentro surgió tras un concierto.