En 1971, dos miembros del legendario grupo inglés Deep Purple -el batería Ian Paice y el bajista Roger Glover- vieron una actuación de Elf y quedaron tan impresionados que les ofrecieron producirlos. Así, en 1972 la banda sacó su primer disco, titulado simplemente Elf, y acompañaron a Deep Purple en una gira por Europa y Norteamérica. Más tarde, el guitarrista Ritchie Blackmore, vio un gran potencial en la banda, y decidió grabar un disco al margen de Deep Purple con los miembros de Elf llamado Ritchie Blackmore's Rainbow. Al principio este grupo no iba a realizar giras ni conciertos, pero en ese mismo año (1975) Ritchie se separó de Deep Purple y decidió dedicarse en exclusiva a Rainbow, reclutando definitivamente a Ronnie James Dio. Aparte del disco Ritchie Blackmore's Rainbow (1975), Dio grabó con Rainbow los álbumes Rising (1976), On Stage (1977) y Long Live Rock and Roll (1978), discos que contienen un gran número de himnos como Man on the Silver Mountain, Long Live Rock and Roll, Stargazer, Starstruck, Sixteen Century Greensleeves, Kill The King, entre otros.
Tras dejar Rainbow; Ronnie James Dio entró como vocalista a Black Sabbath, una de las más grandes bandas quienes habían definido a principios de los 70's los cimientos de lo que más tarde se denominaría heavy metal. Dio remplazó a Ozzy Osbourne que entró en tratamientos de desintoxicación por su adicción al alcohol y las drogas. Dicen que Ozzy Osbourne advirtió a Dio que se asegurara de llevar chaleco antibalas si se atrevía a cantar «Paranoid» y «Iron Man» en vivo, ya que sería el mismo Ozzy quien lo mataría.
Al grupo se le presentaba la difícil tarea de intentar seguir en la brecha habiendo perdido a su cantante original, no obstante, Ronnie infundió sangre nueva, acercando a la Banda más al heavy metal que estaba de moda en los años 80. Con Ronnie, Black Sabbath grabó Heaven and Hell (1980), Mob Rules (1981), el directo Live Evil (1982) y Dehumanizer (1992), dejando grandes temas como Children of the Sea, Die Young, Heaven and Hell, The Sign Of The Southern Cross, The Mob Rules y otros.
Ronnie abandonó definitivamente Black Sabbath (al que volvería fugazmente en 1992 para grabar Dehumanizer), para fundar su propio grupo llamado Dio. Debutando en 1983 con Holy Diver, al que le seguirían grandes discos de hard rock y heavy metal como: The Last in Line (1984), Sacred Heart (1985), Intermission (1986) y Dream Evil (1987). Y en los noventa: Lock up the Wolves (1990), Strange Highways (1994), Angry Machines (1996) y el directo Inferno - Last in Live (1998).
Ronnie James Dio, volvió a reunirse con los antiguos miembros de Black Sabbath en Heaven and Hell y realizaron una gira mundial en 2007-2009 donde pasaron por Europa, Asia, EE. UU., México y Sudamérica.
En el 2006 tuvo una participación en la película Tenacious D: The Pick of Destiny de Jack Black y Kyle Gass componentes del grupo Tenacious D. En abril de 2009 salió a la venta el nuevo disco de la formación de Heaven and Hell llamado The Devil You Know este CD contó con diez canciones nuevas y fue motivo de una gira mundial. El primer single de dicho álbum fue la gran canción "Bible Black".
El 25 de noviembre de 2009, Wendy Dio, esposa y manager, anunció que habían diagnosticado a Ronnie cáncer de estómago. Murió el 16 de mayo de 2010 a las 7:45 a. m.