Jeffrey junto a Douglas Colvin, Tommy Erdélyi y John Cummings deciden crear una banda donde cada uno llevará el apellido "Ramone", es entonces cuando Jeffrey es bautizado con el nombre de "Joey Ramone". Una de las primeras canciones que Joey escribió fue "Judy Is A Punk", con ella, los Ramones tocaron por primera vez en la CBGB, el cual fue un completo fracaso. Algún tiempo después grabó su primer disco "Ramones", que pasó casi desapercibido. Después grabaron "Leave Home", "Rocket to Russia" y "Road to Ruin", todos considerados como trascendentes y esenciales para el naciente Punk Rock, sin embargo no tuvieron éxito comercial.
Tiempo después trabajan con Phil Spector, para grabar su quinto álbum "End of the Century". El álbum fue un fracaso en las ventas. Joey siempre se mostró optimista, pensando que el siguiente álbum que lanzaran sería su gran debut comercial, esto nunca sucedió. Joey usó su gran creatividad e inspiración para escribir grandes canciones como: "Do You Remember Rock n' Roll Radio?", "The KKK Took My Baby Away" y "She's The One".
Joey no se habló con su guitarrista, Johnny Ramone, durante casi 20 años. Esta rivalidad comenzó por diferencias ideológicas y empeoró cuando Johnny le "robó" a su novia Linda, para luego casarse con ella, lo que le inspiró a escribir "The KKK Took My Baby Away"
En 1994, creó el grupo Sibling Rivalry con su hermano Mickey Leigh, con la que sacaron el EP In a Family Way EP. En 1999, co-produjo y cantó en dos temas del EP "She Talk to Rainbows" de una de sus ídolos de The Ronettes, Ronnie Spector.
En 2002 se editó su disco solista "Don't Worry About Me", con una destacable versión del tema de Louis Armstrong, What a Wonderful World al más puro estilo punk, de The Clash ("I'm so bored with the USA") y de The Who y 1969 de The Stooges. Co-escribió y grabó la canción "Meatball Sandwich" con Youth Gone Mad. Antes de su muerte, fue productor y manager de The Independents.
Joey siempre fue una figura especial, pero poco valorada en su tiempo. Murió de Linfoma en el New York-Presbyterian Hospital el 15 de abril de 2001. En el momento de su muerte escuchaba “In A Little While” de U2.
El 30 de noviembre de 2003, se le puso el nombre de Joey Ramone Place a una calle de la Ciudad de Nueva York. Está en la misma manzana donde los Ramones comenzaron, en el famoso club CBGB. Su cumpleaños se celebra en muchos clubes de rock, siendo invitados en Nueva York su madre y su hermano.
El 28 de enero de 2007 la madre de Joey, Charlotte Lesher, quien inspiró musicalmente y apoyó a Joey durante su carrera de músico, muere de un ataque al corazón con 80 años.
En Febrero del 2012 se hizo el anuncio oficial del lanzamiento del segundo álbum póstumo de Joey titulado Ya Know?, que se lanzó el 22 de Mayo y cuenta con la colaboración de Joan Jett, Steven Van Zandt y Richie Ramone y fue producido por Ed Stasium y Jean Beauvoir quienes trabajaron con The Ramones.
Si te interesa conocer más de la banda, checate esta biografía: