Wise queria ser jornalista, mas a depressão econômica mudou seus planos e ele foi parar na RKO Pictures, carregando latas de filmes. Virou montador de som (e, como tal, seu nome integra o da equipe de "O Delator", de John Ford). Passou a montador em 1939, mas só dois anos depois Orson Welles irrompeu em sua vida, com o cultuado "Cidadão Kane".
Três anos mais tarde, cooptado pelo produtor Val Lewton, o próprio Wise assinou seu primeiro longa como diretor. "A Maldição do Sangue de Pantera" (codireção de Gunther Friesch) foi o primeiro de uma série de filmes fantásticos que realizou ao longo de sua carreira. Fez filmes notáveis como Helena de Troia, Somebody Up There Likes Me e Desafio do além. Mas se consagrou com dois musicais. Em 1960 realizou "Amor sublime amor" que é considerado um dos cinco melhores musicais de toda a história. Wise ganhou o Oscar de melhor diretor e de melhor filme em duas ocasiões: por Amor sublime amor e por "A noviça rebelde" que se tornou a maior bilheteria de todos os tempos ajudando a alavancar a carreira do diretor e da estrela do filme: Julie Andrews. Faleceu aos 91 anos em 14 de setembro de 2005 e em Los Angeles, de insuficiência cardíaca.
Recebeu três nomeações ao Óscar de melhor filme, por West Side Story (1961), The Sound of Music (1965) e The Sand Pebbles (1966); venceu por West Side Story e The Sound of music.
Recebeu três nomeações ao Óscar de melhor realizador, por Quero Viver! (1958), West Side Story (1961) e The Sound of Music (1965); venceu por West Side Story e The Sound of Music.
Recebeu uma nomeação ao Óscar de melhor edição, por Citizen Kane (1941).
Ganhou o Prémio Irving G. Thalberg, concedido pela Academia de Artes e Ciências Cinematográficas, em 1967.
Recebeu três nomeações ao Globo de Ouro de melhor realizador, por The Haunting (1963), The Sound of Music (1965) e The Sand Pebbles (1966).
