Karl Malden wurde mit dem bürgerlichen Namen Mladen George Sekulovich am 22. März 1912 in Chicago, Illinois, geboren und wuchs in Gary, Indiana auf. Seine Mutter war Tschechin, wein Vater Serbe. Nach den Abschlüssen an Highschool und College ließ sich Karl Malden ab 1933 drei Jahre lang zum Schauspieler ausbilden. 1937 debütierte er in Clifford Odets’ „Golden Boy“ am Broadway. Drei Jahre später war Malden das erst Mal in einem Film zu sehen. Nach dem Zweiten Weltkrieg, in dem er bei der US Air Force diente, spielte Karl Malden zunächst hauptsächlich Theater.

Für Kino und Fernsehen wirkte er in beinahe 70 Spielfilmen mit, in denen er überwiegend als Nebendarsteller agierte.
In Deutschland wurde Karl Malden vor allem durch seine Rolle als Detective Lt. Mike Stone in der Fernsehserie „Die Straßen von San Francisco“ bekannt, den er von 1972 bis 1977 in 120 Folgen verkörperte. Im Jahr 1992 spielte er in dem Spielfilm „Zurück auf die Straßen von San Francisco“ noch einmal Lt. Mike Stone. Seinen letzten Auftritt als Schauspieler hatte Malden acht Jahre später in der Serie „The West Wing“ als Father Thomas Cavanaugh. Außerdem war Malden in den siebziger und achtziger Jahre das Werbegesicht von American Express.
Von 1989 bis 1992 war Karl Malden Präsident der Academy of Motion Picture Arts and Sciences, die den Oscar vergibt. Er selbst bekam ihn einmal in der Kategorie „Bester Nebendarsteller“: für „Endstation Sehnsucht“ (1952). Eine weitere Nominierung in der gleichen Kategorie erhielt er für „Die Faust im Nacken“ (1955).
Karl Malden verstarb am gestrigen 1. Juli 2009 und hinterlässt seine Ehefrau Mona Greenberg, mit der erst seit dem 18. Dezember 1938 verheiratet war, sowie die beiden gemeinsamen Töchter.