Bob Balaban vient d'une famille d'immigrés juifs installée à Chicago, qui avait une grande influence sur l'activité théâtrale de la ville. Son oncle dirigea la Paramount pictures et son grand-père fut à la tête durant plusieurs années des productions MGM.
Lors de ses études à New York, il commence sa carrière au théâtre et crée le rôle de Linus dans la comédie musicale
You Are A Good Man,
Charlie Brown. De 1975 à 1977, il fait partie de la troupe de théâtre : du Hartman Theatre de Stanford. Par la suite, il tourne dans de nombreux films dont :
Macadam Cowboy,
Au-dela Du Reel,
Le Prince De New York...On le voit également dans la série à succès
Friends
Dans le même temps, il réalise plusieurs courts-métrages, des pilotes de séries télévisées, mais aussi des spectacles musicaux. Dans
Gosford Park, il use de ses divers talents, puisqu'il est co-auteur du sujet original, producteur, mais également interprète du rôle de Maurice Weissamn un des invités.
En 2002, il joue dans
Ghost World de Terry Zwigoff avec Thora Birch, Scarlett Johansson, dans son jeune âge, et Steve Buscemi. La même année, il est à l’affiche de
The Majestic de Frank Darabont, où Jim Carey incarne un scénariste des années 50.
Il revient en 2005 avec
Truman Capote de Bennett Miller, film pour lequel Philip Seymour Hoffman obtint l’ oscar 2006 du meilleur acteur. Puis il tourne dans
La Jeune Fille De L'Eau de M. Night Shyamalan où il interprète Harry Farber. Le film se centre sur un homme qui découvre une femme étrange provenant d’un univers aquatique.