Nato a Toronto - in Canada - nel dicembre 1929, si trasferisce in Quebec dove studia pianoforte per poi dedicarsi alla recitazione fin dagli anni Quaranta presso la Canadian Repetory Theatre e debuttare a Broadway, dove si fa notare recitando con Katharine Cornell in The Constant  Wife (1954) e in The Dark is Light Enough (1955).  Interprete shakespeariano delle principali opere del grande drammaturgo, partecipa al Festival Theatre di Stratford dal ’56 fino alla fine degli anni Sessanta, diradando le apparizioni a partire dal decennio successivo.

Esordisce al cinema in ruoli secondari in Fascino del palcoscenico (1958) di Sidney Lumet (alla sua seconda regia dopo La parola ai giurati, considerato quasi all’unanimità come uno fra i capolavori del courtroom drama americano), con Henry Fonda e Susan Strasberg, e Il paradiso dei barbari (1958) di Nicholas Ray, in cui esordisce anche Peter Falk (il futuro Tenente Colombo).

Fisico atletico, occhi azzurri, piglio severo e quasi militaresco, eclettico e magnetico domina molto bene la scena e, nel giro di pochi anni, ottiene validi ruoli da protagonista.

Dopo altri sei anni di teatro, torna al cinema, dove si afferma nel ruolo del comandante von Trapp, l’ex ufficiale della Marina asburgica e padre di sette figli nel celeberrimo “evergreen” The Sound of Music (1965, in Italia Tutti insieme appassionatamente) di Robert Wise, con Julie Andrews (al suo terzo film dopo Mary Poppins di Robert Stevenson e Tempo di guerra, tempo d’amore di Arthur Hiller), Eleanor Parker e Richard Haydn.

Negli anni successivi lo si ricorda incredulo spettatore di eventi drammatici in L’uomo che volle farsi re (1975) di John Huston, con Sean Connery e Michael Caine, pilota nella Seconda guerra mondiale in La battaglia delle aquile (1976) di Jack Gold, custode di un segreto in Uno scomodo testimone (1981) di Peter Yates, misterioso epidemiologo in L’esercito delle dodici scimmie (1996) di Terry Gilliam, ambiguo personaggio dalla doppia vita in Dracula’s legacy. Il fascino del male (2001) di Wes Craven e nonno in Il mistero dei templari (2004) di Jon Turtletaub.

Fra gli altri film ricordiamo Alexander (2004) di Oliver Stone, in cui interpreta Aristotele, Partnerperfetto.com (2005) di Gary David Goldberg, Syriana (2005) di Stephen Gaghan, con George Clooney, The New World - Il nuovo mondo (2005) di Terrence Malick, con Colin Farrell, Inside Man (2006) di Spike Lee, con Jodie Foster e Denzel Washington, La casa sul lago del tempo (2006) di Alejandro Agresti, Man in the Chair (2007) di Michael Schroeder, Closing the Ring (2007) di Richard Attenborough, Parnassus - L’uomo che voleva ingannare il diavolo (2009) di Terry Gilliam, The Last Station (2009) di Michael Hoffman, Beginners (2011) di Mike Mills, con cui vince l'Oscar come Miglior Attore Non Protagonista,  Barrymore (2011) di Erik Canuel. 

Molto attivo anche in età avanzata, in epoche più recenti appare in Muhammad Ali’s Greatest Fight (2013) di Stephen Frears, Elsa & Fred (2014) di Michael Radford, The Forger - Il falsario (2014) di Philip Martin, Remember (2015) di Atom Egoyan, in cui recita con Martin Landau, La canzone della vita - Danny Collins (2015) di Dan Fogelman, L’amore oltre la guerra (2016) di David Leveaux, Dickens - L’uomo che inventò il Natale (2017) di Bharat Nalluri, Tutti i soldi del mondo (2017) di Ridley Scott, Un viaggio stupefacente (2018) di Shana Feste, ultimo film con Peter Fonda, Cena con delitto (2019) di Rian Johnson, ispirato al filone giallo di Agatha Christie.

Fra le altre pellicole,  La caduta dell’impero romano (1964) di Anthony Mann, con James Mason, Sophia Loren e Stephen Boyd,  Lo strano mondo di Daisy Clover (1965) di Robert Mulligan, con Nathalie Wood ed un giovane Robert Redford a inizio carriera, Agli ordini del Fuhrer e al servizio di sua maestà (1967) di Terence Young, con Romy Schneider, Yul Brynner e Gert Fröbe - ispirato alla vita di Eddie Chapman, agente doppiogiochista dell’MI5 -  La notte dei generali (1967) di Anatole Litvak, con Peter O’ Toole, I lunghi giorni delle aquile -The battle of Britain (1969) di Guy Hamilton, con Laurence Olivier, Michael Caine, Trevor Howard e Curd Jurgens,  La grande strage dell’impero del sole - The Royal Hunt of the Sun (1969) di Irving Lerner, con Robert Shaw, ispirato all’opera teatrale omonima di Peter Shaffer, che ha per tema la conquista dell’impero Inca da parte degli spagnoli nel XVI secolo, Waterloo (1970) di Sergei Bondarchuk, sui cento giorni di Napoleone, con Rod Steiger, Orson Welles e Virginia McKenna, La Pantera Rosa colpisce ancora (1975) di Blake Edwards, Quel rosso mattino di giugno (1975) di Veljko Bulajic, Uppdraget (1977) di Mats Arehn, sull’attentato di Sarajevo, Scontri stellari oltre la terza dimensione (1978) di Luigi Cozzi, film di fantascienza con musiche di John Barry, I Love N.Y. (1987) di Alan Smithee, con Virna Lisi, La retata (1987) di Tom Mankiewicz, con Tom Hanks e Dan Aykroyd, basato sulla nota serie tv Dragnet, l’horror Nosferatu a Venezia (1988) di Augusto Caminito e Mario Caiano, Dalla parte del cuore (1990) di John Boorman, con Uma Thurman e Dabney Coleman, Star Trek VI - Rotta verso l’ignoto (1991) di Nicholas Meyer, sesto film della serie cinematografica Star Trek e ultimo con il cast originale al completo, Malcom X (1992) di Spike Lee, basato sull’autobiografia di Malcom X, con Denzel Washington, Wolf -La belva è fuori (1994) di Mike Nichols, con Jack Nicholson e Michelle Pfeiffer, L’ultima eclissi (1995) di Taylor Hackford, dal romanzo Dolores Claiborne di Stephen King, Insider - Dietro la verità (1999) di Michael Mann, con Russell Crowe e Al Pacino, A Beatiful Mind (2001) di Ron Howard, con Russell Crowe e Paul Bettany, dedicato alla vita di John Forbes Nash jr., matematico Premio Nobel, Nicholas Nickeby (2002) di Douglas McGrath, tratto dal romanzo omonimo di Charles Dickens.

Molto attivo anche in televisione, appare in vari film tv (Johnny Belinda - 1958 - e A Doll’s House - 1959 -, entrambi diretti da George Schaefer, A Philadelphia Story - 1959 - di Fielder Cook, Captain Brassbound’s Conversion - 1960 -, Time Remembered – 1961 -, Cyrano de Bergerac - 1962 -, tutti e tre diretti da George Schaefer, voce narrante in The Secret of Michelangelo - 1968 - di Milton Fruchtman,  Gesù di Nazareth - 1977 - sceneggiato in cinque puntate di Franco Zeffirelli, The Shadow Box - 1980 - di Paul Newman, Dial M For Murder - 1981 - anch’esso diretto da Boris Sagal, remake televisivo del celebre Il delitto perfetto di Alfred Hitchcock, Skeletons - 1997 - di David DeCoteau, thriller con James Coburn, Il processo di Norimberga - 1998 - di Yves Simoneau, con Alec Baldwin e Max von Sydow, Leo’s Journey - 2001 - di Shel Piercy, Our Fathers - 2005 - di Dan Curtis, Caesar and Cleopatra - 2009 - di Des McAnuff, The Tempest - 2010 - di D. McAnuff e Shelagh O’ Brien), in alcuni episodi di telefilm come I Robinson (1987) e Counterstrike (1990-93, sessantacinque episodi) ed in miniserie come Gloria Vanderbilt (1982) di Waris Hussein, Scarlatto e nero (1983) di Jerry London, con Gregory Peck e John Gielgud, ambientato nella Roma degli anni Quaranta durante l’occupazione nazista, Uccelli di rovo (1983) di Daryl Duke, con Richard Chamberlain, Jean Simmons, Barbara Stanwyck, Crossings (1986) di Karen Arthur, Spearfield’s Daughter (1986) di Gilbert M. Shilton, E Caterina… regnò (1991) di Michael Anderson, con Vanessa Redgrave, Julia Ormond e Franco Nero.