Figlio di Lucille Raver e Bernie Goldstein, entrambi ebrei immigrati dall'Europa dell'est. La madre vendeva fiori artificiali ai saloni di bellezza, mentre il padre era nel settore dell'abbigliamento come acquirente di tessuti. Si diplomò alla Professional Children's School, una piccola scuola nel distretto di Manhattan. Il 3 aprile 1958 è Earl Jorgeson nella prima assoluta di Say, Darling di Jule Styne con David Wayne, Vivian Blaine, Robert Morse, Jerome Cowan, Constance Ford ed Eddie Albert a New York. Nel 1962 è Harry Bogen nella prima assoluta di I Can Get It for You Wholesale di Harold Rome con Lillian Roth, Marilyn Cooper, Sheree North e Barbra Streisand a New York.
Partecipò al Saturday Night Live per sei stagioni, la sua apparizione finale fu in occasione del primo episodio della sesta stagione diretta da Jean Doumanian nel novembre del 1980, quando restò scioccato alla notizia che cast e produzione originale erano stati rimpiazzati. Dopo quella data non partecipò più al SNL, tranne un'apparizione nella stagione 16 (1990-1991), a fianco di Tom Hanks. Nel 1992 è tra i protagonisti del film Wet and wild summer! (conosciuto anche col nome di Exange lifeguards) al fianco dell'allora sconosciuto Julian McMahon. Gould apparve anche in due film prodotti dalla Disney: L'ultimo viaggio dell'arca di Noè e Il diavolo e Max, quest'ultimo al fianco di Bill Cosby. Gould recitò anche a Broadway in spettacoli come Irma La Douce, I Can Get It for You Wholesale (dove incontrò Barbra Streisand), Drat! The Cat!, e Little Murders.
La sua carriera rallentò a cominciare dalla metà anni settanta e fino all'inizio degli anni ottanta, a causa di una serie di flop commerciali, ma l'attore rimase occupato recitando per la televisione, entrando ad esempio come personaggio ricorrente nella popolarissima sit-comFriends (1994-2004), interpretando Jack Geller, il padre di Monica e Ross Geller, e in molti ruoli secondari al cinema, tra i quali, è degna di nota la sua partecipazione nella serie degli Ocean's: Ocean's Eleven - Fate il vostro gioco, Ocean's Twelve e Ocean's Thirteen tutti e tre diretti da Steven Soderbergh.
Gould è stato sposato dal 1963 al 1971 con l'attrice e cantante Barbra Streisand da cui ha avuto un figlio, Jason, nato nel 1966. In seguito si è risposato con Jennifer Bogart, che è stata sua moglie per due volte: prima dal 1973 al 1975 e poi dal 1978 al 1979. Dalla Bogart l'attore ha avuto due figli, Samuel e Molly.
Nelle versioni in italiano delle opere in cui ha recitato, Elliott Gould è stato doppiato da:
Pino Locchi in M*A*S*H, Piccoli omicidi, L'adultera, Il lungo addio, Mani sporche sulla città, S.P.Y.S., Capricorn One, Il mistero della signora scomparsa, L'ultimo viaggio dell'arca di Noè, Ricominciare ad amarsi ancora, A faccia nuda, I miei primi 40 anni, Scandalo segreto, Il principe del deserto
Michele Gammino in Quell'ultimo ponte, Il grande colpo, American History X, Ruby Sparks, Back in the Game, Dangerous Lies, Avvocato di difesa - The Lincoln Lawyer (st. 2-3)
Angelo Nicotra in Law & Order - Unità vittime speciali, Ocean's Eleven - Fate il vostro gioco, Las Vegas, Ocean's Twelve, Ocean's Thirteen, Drop Dead Diva, Ocean's 8
Gianni Giuliano in Amici e nemici, Ho solo fatto a pezzi mia moglie, Contagion, Doubt - L'arte del dubbio, You People
Carlo Baccarini in California Poker, Balordi & Co. - Società per losche azioni capitale interamente rubato $ 1.000.000