Tras la ruptura de la banda Mythology en 1967, el guitarrista Tony Iommi y el baterista Bill Ward comenzaron a buscar personal para formar una banda de blues rock en Aston, Birmingham. El grupo contrató al bajista Geezer Butler y al cantante Ozzy Osbourne, quienes habían tocado juntos en una banda llamada Rare Breed. En 1968, el nuevo grupo, en el que también estaban el guitarrista Jimmy Phillips y el saxofonista Alan «Aker» Clarke, fue llamado The Polka Tulk Blues Company, nombre tomado de una compañía textil india. Después de acortar el nombre a Polka Tulk, la banda lo cambió por el de Earth y continuó como cuarteto sin Phillips y Clarke.​

Earth tocaba versiones de Jimi Hendrix, Cream y Blue Cheer en clubes de Inglaterra, Dinamarca y Alemania, así como largas improvisaciones de blues. En diciembre de 1968, Iommi dejó abruptamente Earth para sustituir a Mick Abrahams en Jethro Tull. Aunque su temporada con esta banda sería corta, le dio tiempo a aparecer con ellos en el programa de televisión The Rolling Stones Rock and Roll Circus. Insatisfecho con la dirección de Jethro Tull, Iommi regresó a Earth en enero de 1969. «Simplemente no estaba bien, así que me fui», dijo Iommi. «Al principio pensé que los Tull estaban bien, pero no fui para tener un líder en la banda, que era el modo de hacer de Ian Anderson. Cuando volví de los Tull, volví con una nueva actitud. Me enseñaron que para progresar tienes que trabajártelo».

Mientras tocaban en Inglaterra en 1969, la banda descubrió que los estaban confundiendo con otra banda llamada Earth, y decidieron cambiar su nombre otra vez. Un cine, en la acera al frente del local de ensayo de la banda, estaba mostrando una película de terror de 1963 dirigida por Mario Bava, con Boris Karloff como protagonista, llamada Black Sabbath, en italiano (su idioma original): I tre volti della paura; en español: Las tres caras del miedo. Mientras veía a la gente que hacía cola para ver la película, Butler notó que «era raro ver que la gente gastase tanto dinero para ver películas de miedo». Después de esto escribió la letra de una canción llamada «Black Sabbath», inspirada en el trabajo del escritor ocultista Dennis Wheatley y en una visión que había tenido Butler sobre una figura negra encapuchada a los pies de su cama. Haciendo uso, sin ser conscientes de ello, del tritono, conocido también como el «Intervalo del Diablo», el sonido siniestro y las oscuras letras de la canción empujaron a la banda en una dirección más oscura, en intenso contraste con la música popular de finales de los años 1960, dominada por el flower power, la música folk y la cultura hippie. Inspirada por ese nuevo sonido, la banda cambió su nombre a Black Sabbath en agosto de 1969 y tomó la decisión de centrarse en componer material similar, en un intento de crear el equivalente musical a las películas de terror.