Nato a Arkabutla - nel Mississippi - nel 1931, figlio di Robert Earl Jones (noto per il ruolo di Luther - l’amico di Hooker/Robert Redford che muore assassinato dagli scagnozzi del boss Lodighen/Robert Shaw - in La stangata - 1973 - di George Roy Hill), dopo oltre un decennio di carriera teatrale, esordisce al cinema in un ruolo secondario in Il dottor Stranamore, ovvero come imparai a non preoccuparmi e ad amare la bomba (1964) di Stanley Kubrick, con Peter Sellers, George C. Scott, Sterling Hayden e Slim Pickens.

Nel giro di pochi anni diventa uno fra i più noti caratteristi e comprimari afroamericani e, alla fine degli anni Settanta, la sua voce profonda è quella di Darth Vader in Guerre stellari (1977) di George Lucas.

Nella sua lunga carriera cinematografica (oltre centotrenta film nell’arco di circa quarant’anni) spiccano Carrell, agente pericoloso (1978) di I. Nagy, Giardini di pietra (1987) di Francis Ford Coppola, con James Caan, la celebre black comedy Il principe cerca moglie (1988) di John Landis, con Eddie Murphy, Shari Headey, Arsenio Hall e John Amos, L’uomo dei sogni (1989) di Phil Alden Robinson con Kevin Costner e Burt Lancaster (al suo ultimo film), Caccia a Ottobre Rosso (1990) di John McTiernan, tratto dal libro omonimo di Tom Clancy ed interpretato da Sean Connery, Giochi di potere (1992) di Philip Noyce, con Harrison Ford e Richard Harris, I signori della truffa (1992) di P. A. Robinson, Sommersby (1992) di Jon Amiel, con Richard Gere, Riccardo III - Un uomo, un re (1996) di Al Pacino.

Fra le altre pellicole ricordiamo I commedianti (1967) di Peter Glenville, Per salire più in basso (1970) di Martin Ritt, con cui ottiene una Nomination all’Oscar come Miglior Attore Protagonista, The Man (1972) di Joseph Sargent, Claudine (1974) di John Berry, Il corsaro della Giamaica (1977) di James Goldstone, Io sono il più grande (1977) di Tom Gries, L’esorcista II - L’eretico (1977) di John Boorman, con Max von Sydow, Io, Beau Geste e la legione straniera (1977) di Marty Feldman, A Piece of the Action (1977) di Sidney Poitier, Bushido - La spada del sole (1981) di Tom Kotani, Conan il barbaro (1982) di John Milius, Soul Man (1986) di Steve Miner, Gli avventurieri della città perduta (1986) di Gary Nelson, Mateway (1987) di Jones Sayles, In fuga per tre (1989) di Frances Veber, I migliori (1989) di Bob Radler, L’ambulanza (1990) di Larry Cohen, con Richard Gere, I ragazzi vincenti (1993) di David Mickey Evans, The Meteor Man (1993) di Robert Townsend, Sotto il segno del pericolo (1994) di P. Noyce, Jefferson in Paris (1995) di James Ivory, Istinti criminali (1997) di Jim Kouf, A casa con i miei (2000).

In epoche più recenti è apparso in Non lasciarmi sola (2013) di Ron Krauss e 90 minuti a New York (2014) di P. A. Robinson.

Nel 2012 ha ricevuto l’Oscar alla Carriera.

Ancora attivo in età avanzata, è tornato ad interpretare il ruolo di Re Joffy Joffer - re dello stato immaginario di Zamunda - in Il principe cerca figlio (2021), sequel del celebre e già citato Il principe cerca moglie di John Landis. Il film, le cui riprese sono terminate a novembre 2019, avrebbe dovuto uscire nelle sale americane ad agosto 2020. Tuttavia la chiusura dei cinema causata dall’emergenza sanitaria connessa alla pandemia Covid-19 ha portato ad un rinvio ed il film verrà distribuito sulla piattaforma Prime Video nel marzo 2021.

Attivo anche in televisione, è apparso in vari film tv (Ai confini della realtà: i tesori perduti - 1994 - di Robert Markowitz, Terra amata - 1995 - di Darrell J. Roodt, Più in alto di tutti - 1996 - di Eriq La Salle, La seconda guerra civile americana - 1997 - di Joe Dante, Un amico per sempre - 1998 - di Helen Shaver, La vera storia di Babbo Natale - 1998 - di Dwayne Dunham, Il sogno di Helen - 2005 - di Georg Stanford Brown) ed in alcuni episodi di serie e miniserie (La parola alla difesa - 1962-64 -, Gesù di Nazareth - 1977 - di Franco Zeffirelli, Radici - Le nuove generazioni - 1979 - di Georg Stanford Brown, Paris - 1979-80 -, Law & Order - I due volti della giustizia - 1993 -, Will & Grace - 2003 -, Everwood - 2003-04 -, Due uomini e mezzo - 2008 -, Dr House - Medical Division - 2010, The Big Bang Theory - 2014).