Schmidt va néixer a Dorpat (actualment Tartu, Estònia), quan formava part de l'Imperi Rus tot i que amb una forta influència alemanya. Va estudiar a les universitat de la seva vila natal, de Berlín i de Göttingen. Va obtenir el doctorat en aquesta última el 1905 amb una tesi dirigida per David Hilbert.[1] L'any següent va obtenir l'habilitació docent a la universitat de Bonn, en la qual va ser professor ajudant durant dos cursos.
El 1908 va ser nomenat professor de la universitat de Zúric, de la qual va passar a les d'Erlangen (1910-1911) i Breslau (1911-1917), fins que el 1917 va ser nomenat catedràtic de la universitat de Berlín, en la qual va romandre fins a la seva jubilació el 1950.[2] A Berlín va mantenir sempre una gran reputació intel·lectual, essent un professor carismàtic i excèntric al mateix temps.[3]
Durant el nazisme, i malgrat la seva ideologia conservadora i nacionalista, va mantenir postures decents, arribant a ser qualificat de personan non grata. Ell va lluitar per a que es restablís a la docència el seu col·lega jueu Issai Schur. Després de la Kristallnacht, va ser l'únic col·lega que va seguir visitant regularment Schur.[4]
O'Connor, John J.; Robertson, Edmund F. «Erhard Schmidt» (en anglès). MacTutor History of Mathematics archive. School of Mathematics and Statistics, University of St Andrews, Scotland.(anglès)