Nasceu em Gênova, em 3 de outubro de 1913, como primeiro dos cinco filhos de Giacomo Ballestrero e Antonietta Daffunchio.
Entrou na Ordem dos Carmelitas Descalços. Em 6 de junho de 1936 foi ordenado sacerdote. Participou do Concílio Vaticano II na qualidade de superior geral dos carmelitas, cargo que ocupou durante 12 anos, de 1955 a 1967. Em 21 de dezembro de 1973 foi eleito arcebispo de Bari e Canossa. Recebeu a consagração episcopal em 2 de fevereiro de 1974.
Em 1975 pregou os exercícios espirituais a Paulo VI e à Cúria vaticana. Em 1º de agosto de 1977 foi chamado a suceder o cardeal Michele Peregrino e foi nomeado arcebispo de Turim. João Paulo II o elevou a cardeal no consistório de 30 de junho de 1977. De 1979 a 1985 foi presidente da Conferência Episcopal Italiana. Em 5 de fevereiro de 1980 oficializou a constituição da Caritas diocesana de Turim, após um período de experiência durante o qual fora gerida pelo engenheiro Giorgio Ceragioli. Naquela ocasião, nomeou diretor Padre Piero Giacobbo, o qual é substituído na condução da Caritas por Padre Sergio Baravalle, em 1986.
Suas cartas pastorais, como as duas assembleias eclesiais diocesanas que aconteceram durante o seu episcopado (“Evangelização e promoção humana” e “Nos caminhos da reconciliação”), tiveram uma notável influência no caminho da Igreja de Turim daqueles anos.
Em 14 de novembro de 1983, após a decisão do ex-rei da Itália, Umberto II, de dar à Igreja Católica o santo sudário, Ballestrero foi nomeado guardião deste. Tornou, assim, conhecidos os resultados dos exames realizados na relíquia com o método do carbono 14.
Deixou o posto de arcebispo de Turim em 31 de janeiro de 1989. Morreu em Bocca di Magra, na casa de espiritualidade carmelitana para onde se retirara, em 21 de junho de 1998, aos 84 anos. Está sepultado na cripta do eremitério do Deserto de Varazze.
Em 9 de outubro de 2014 deu-se início na arquidiocese de Turim à investigação diocesana sobre “vida, virtudes e fama de santidade”.