Nacque a Odessa, in Ucraina, da Fëdor Nikolaevič e da Vera Griliches, in una famiglia ebrea. Insegnò giovanissimo alla Università di Torino e fu tra i primi collaboratori della casa editrice Einaudi. Nel 1933 fu allontanato dall'insegnamento per essersi rifiutato di prestare fedeltà al fascismo. Tra i fondatori del movimento di Giustizia e Libertà, dal 1934 subì una serie di persecuzioni fino al confino a Tornimparte in Abruzzo con la moglie Natalia e i figli. Ha lasciato notevoli studi sulle letterature russa, francese, italiana (Scrittori russi, 1948; Scritti, 1964) e parecchie traduzioni, soprattutto di autori russi. Collaborò alla rivista "La Cultura".

Alla memoria di Leone Ginzburg, a Torino è stato intitolato un giardino già denominato "Giardino regina Giovanna di Bulgaria".

Il 28 ottobre 2009, nell'ambito delle iniziative realizzate intorno alla mostra Bobbio e il suo mondo, fu dedicato a Ginzburg il primo di cinque incontri all'Archivio di Stato di Torino, con cui si voleva rendere omaggio, in collaborazione con il Comitato Passato Presente, al gruppo di amici e di compagni del filosofo della politica Bobbio, del quale si celebrava il centenario della nascita.

Mercoledì 5 febbraio 2014 il Liceo D'Azeglio, frequentato tra il 1924 e il 1927 da Leone - che ebbe come compagni Norberto Bobbio e Giorgio Agosti - in collaborazione con Giulio Einaudi editore e la Comunità Ebraica di Torino, dedica un pomeriggio al ricordo di Ginzburg, insegnante, scrittore, letterato, oppositore al Fascismo. Intervengono Claudio Dellavalle (Presidente dell'Istoreto), Domenico Scarpa (critico letterario), Sergio Pistone (Università di Torino), Mauro Bersani (Giulio Einaudi editore), Emanuele Segre Amar (Comunità Ebraica di Torino).