Palance werd op 18 februari 1918 geboren in de staat Pennsylvania, onder de Oekraïense naam Vladimir Palanjuk. Hij werkte als jongen in de kolenmijnen en was ook professioneel bokser onder de naam Jack Brazzo. Tijdens de Tweede Wereldoorlog raakte Palance zwaargewond toen zijn vliegtuig neerstortte.

Artsen hadden veel operaties nodig om het gehavende gezicht van Palance te reconstrueren. Desondanks begon hij in 1947 een acteercarrière op Broadway. Drie jaar later volgde zijn debuut op het witte doek, Panic in the Streets. Zijn derde rol (in Sudden Fear) leverde hem een Oscar-nominatie op. Met de western Shane (1953), waarvoor hij eveneens voor een Oscar werd voorgedragen, brak hij definitief door als revolverheld.

Palance speelde met zijn boevengezicht daarna vooral in (veelal vergeten) B-films. Begin jaren negentig dook hij ineens op in grotere producties als Young Guns en Batman. En in City Slickers, waarvoor hij in 1992 een Oscar voor beste bijrol kreeg.

Tijdens de uitreiking stal de boomlange acteur de show, door zich als 73-jarige op het toneel met één hand op te drukken. Palance bleef tot op hoge leeftijd actief als acteur voor film en televisie. Zijn laatste tv-rol dateert van 2004.