Nato a New York nel 1943, dopo aver studiato all’American Workshop ed allo Stella Adler Conservatory, esordisce al cinema in una piccola parte (in cui non viene neppure accreditato) in Tre camere a Manhattan (1965) di Marcel Carné.

Quattro anni dopo è in un ruolo secondario in Oggi sposi (1969) di Brian De Palma, dal quale verrà diretto anche in Hi, Mom! (1970). Tuttavia, la sua vera bravura d’attore si rivelerà tre anni dopo in Mean Streets (1973) di Martin Scorsese, con il quale avvierà un sodalizio artistico altamente creativo e proficuo.

Negli anni immediatamente successivi verrà considerato come uno fra i più rappresentativi attori americani, anche per via del suo rigore nella fase di preparazione e di documentazione dei film che interpreta.

Dopo il giovane Vito Corleone in Il Padrino - Parte II (1974) di Francis Ford Coppola, con cui vince l’Oscar come Miglior Attore non Protagonista, dà vita all’inquietante Travis di Taxi Driver (1976) di Martin Scorsese, con Jodie Foster, e, nello stesso anno, in Novecento di Bernardo Bertolucci, al disilluso Alfredo Berlinghieri, erede di una famiglia di signorotti di campagna travolta dagli eventi della Resistenza e della guerra civile.

Molto intenso nel ruolo di Michael in Il cacciatore (1978) di Michael Cimino, in cui recita con Christopher Walken (Oscar come Miglior Attore non Protagonista), John Cazale (al suo ultimo film) ed una giovane Meryl Streep al suo secondo film (aveva esordito l’anno avanti in Giulia di Fred Zinnemann), è strepitoso in Toro scatenato (1980) di M. Scorsese, in cui interpreta il pugile italo-americano Jake La Motta, campione del mondo dei pesi medi. Il film, che ancora oggi è una fra i maggiori successi di Scorsese gli fa vincere un meritatissimo Oscar come Miglior Attore Protagonista. Non è inferiore in C’era una volta in America (1984) di Sergio Leone, in cui veste i panni dello struggente e contraddittorio personaggio di Noodles.   

Fra gli altri film ricordiamo Il clan dei Barker (1970) di Roger Corman, I maledetti figli dei fiori (1971) di Noel Black, Il mio uomo è una canaglia (1971) di Ivan Passer, con George Segal,  La gang che non sapeva sparare (1971) di James Goldstone, Batte il tamburo lentamente (1973) di John D. Hancock, Gli ultimi fuochi (1976) di Elia Kazan, con Robert Mitchum e Tony Curtis,  New York, New York, (1977) di Martin Scorsese, con Liza Minnelli, Re per una notte (1982) di M. Scorsese, Brazil (1985) di Terry Gilliam, Mission (1986) di Roland Joffé,  con Jeremy Irons, Angel Heart - Ascensore per l'inferno (1987) di Alan Parker, con Charlottte Rampling, Gli intoccabili (1987) di Brian De Palma, con Kevin Costner, Sean Connery e Andy Garcia,  Prima di mezzanotte (1988) di Martin Brest, Quei bravi ragazzi (1990) di M. Scorsese, Cape Fear - Il promontorio della paura (1991) di M. Scorsese, con Nick Nolte, Jessica Lange e Juliette Lewis,  remake di Il promontorio della paura (1962) di Jack Lee Thompson (con Gregory Peck, Robert Mitchum e Polly Bergen), Frankenstein di Mary Shelley (1994) di Kenneth Branagh, Cento e una notte (1995) di Agnès Varda, Casinò (1995) di M. Scorsese,  Heat - La sfida (1995) di Michael Mann, con Al Pacino, La stanza di Marvin  (1996) di Jerry Zaks, con L. Di Caprio e Diane Keaton,  Sesso & potere (1997) di B. Levinson, Jackie Brown (1997) di Quentin Tarantino, Ronin (1998) di John Frankenheimer, Men of Honor - L'onore degli uomini (2000) di George Tillman Jr., Ti presento i miei (2000) di Jay Roach, 15 minuti - Follia omicida a New York (2001) di John Herzfeld, The Score (2001) di Frank Oz, con Marlon Brando (al suo ultimo film) e Edward Norton,  Colpevole d'omicidio (2002) di Michael Caton-Jones, Mi presenti i tuoi? (2004) di Jay Roach, Stardust (2007) di Matthew Vaughn, Disastro a Hollywood (2008) di B. Levinson, Stanno tutti bene - Everybody's Fine (2009) di Kirk Jones, Killer Elite (2011) di Gary McKendry, Freelancers (2012) di Jessy Terrero, Cose nostre - Malavita (2013) di Luc Besson, American Hustle - L'apparenza inganna (2013) di David O. Russell, Il grande match (2013) di Peter Segal, Motel (2014) di David Grovic, Bus 657 (2015) di Scott Mann, The Comedian (2016) di Taylor Hackford,

In epoche più recenti è apparso in Joker (2019) di Todd Phillips, The Irishman (2019) di Martin Scorsese, presentato alla Festa del Cinema di Roma, C’era una truffa ad Hollywood (2020) di George Gallo, con Tommy Lee Jones e Morgan Freeman, Amsterdam (2020) di David O. Russell, Killers of the Flower Moon (2023) di M. Scorsese, con Leonardo Di Caprio, tratto dal libro Gli assassini della terra rossa (2017) del giornalista e saggista David Grann.

In due occasioni è passato dietro alla macchina da presa, dirigendo Bronx (1993) e The Good Shepherd - L’ombra del potere (2006).  

Intensa la sua attività di produttore a partire dagli anni Novanta; ha inoltre lavorato in tv con il film The Wizard of Lies (2017) di Barry Levinson, con Michelle Pfeiffer, in cortometraggi, come The Audition (2015) di Martin Scorsese, con L. Di Caprio e Brad Pitt, in documentari - Fahrenheit 9/11(2004) di Michael Moore, I Knew it Was You (2009) di Richard Shepard, in ricordo di John Cazale a trent’anni dalla scomparsa.