Dans les années 20, il est le correspondant du Chicago Times à Berlin. Parallèlement à ses activités journalistiques, il s'intéresse au théâtre et au cinéma et est ainsi embauché à l'UFA, où il traduit en anglais les intertitres des films allemands destinés au marché américain. De retour aux Etats-Unis, Herman J. Mankiewicz, son frère, le fait entrer à la Paramount en la qualité de dialoguiste et scénariste. Puis, il devient producteur à la MGM où il travaille sur Furie (1936) de Fritz Lang, et Indiscrétions (1940) de George Cukor. En 1946, il remplace Ernst Lubitsch, victime d'une crise cardiaque et incapable de tourner, qui lui confie la tâche de réaliser un film qu'il devait faire: Le Château du dragon (1946).
C'est le début d'une carrière dans la réalisation qu'il poursuit l'année suivante en dirigeant L'aventure de Mme Muir.
Chaînes conjugales (1949) et Eve (1950), pour lesquels il remporte quatre Oscars comme scénariste et réalisateur, le consacrent. Il se distingue par un style qui abonde de monologues et de flashbacks. Le dialogue chez Mankiewicz est le moteur de l'action. Le film La Comtesse aux pieds nus (1954) illustre cette démarche du cinéaste.
En 1950, alors qu'il est président de la Screen Director Guild, Cecil B. DeMille profite d'une période où il est absent pour tenter une offensive pro-MacCartyste. De retour, Mankiewicz s'oppose à la manœuvre et, soutenu par John Ford, repousse l'attaque.
Il excelle aussi dans le choix et la direction des acteurs. C'est ainsi qu'il impose le jeune Marlon Brando dans Jules César (1953) ou qu'il offre son premier rôle à Sidney Poitier dans La Porte s'ouvre (1950). Mankiewicz fait preuve d'éclectisme en voyageant à travers tous les registres du 7ème Art. C'est ainsi qu'il explore le film d'espionnage avec L'Affaire Cicéron (1952), la comédie musicale avec Blanches Colombes et vilains Messieurs (1955), ou le drame avec Soudain l'été dernier (1958) d'apres l'œuvre de Tennessee Williams.
En 1960, la Fox l'appelle au secours pour venir à bout de Cléopâtre. Il s'épuisera sur ce projet colossal qui ne verra le jour que trois ans plus tard. Malgré les qualités de ce péplum, le réalisateur le raye de sa filmographie dans la mesure où il n'apparaît pas être l'œuvre qu'il aurait voulu. Il se contente de réaliser trois films par la suite. Le long-métrage Guêpier pour trois abeilles (1967), qui est une adaptation moderne de Volpone. Puis, il filme Le Reptile, un western qui frôle les sommets de cynisme, et Le Limier avec Laurence Olivier, et Michael Caine, son dernier film.
