J. K. Simmons a incarné J. Jonah Jameson dans le blockbuster
Spider-man, réalisé par Sam Raimi. Il a retrouvé ce rôle et le réalisateur dans les deux suites
Spider-man 2 et
Spider-man 3. Il avait déjà joué sous la direction de Sam Raimi dans
Pour L'Amour Du Jeu, avec Kevin Costner, et
Intuitions. On a pu voir J. K. Simmons dans le rôle de Buffalo Bill dans
Hidalgo de Joe Johnston, avec Viggo Mortensen et Omar Sharif.
Au cours de sa carrière, il a joué dans des films aussi différents que
Le Mexicain de Gore Verbinski,
Un Automne à New York de Joan Chen,
Texas Rangers, La Revanche Des Justiciers de Steve Miner,
L'Oeuvre De Dieu, La Part Du Diable de Lasse Hallström, et
Le Chacal de Michael Caton-Jones. Il a aussi joué dans
Mesure D'Urgence de Michael Apted et
Tel Est Pris Qui Croyait Prendre de Ted Demme. En 2003,
J. K. Simmons est à l’affiche de
Off The Map de Campbell Scott, dans lequel il a pour partenaires Joan Allen et Sam Elliott.
Côté petit écran,
J. K. Simmons a incarné Vern Schillinger dans la très populaire série
Oz pendant les six saisons de la série, et le Dr. Emil Skoda dans
New York : Police Judiciaire. En 2005, il tient le rôle régulier du patron et ex-marie de l'héroïne dans la série
The Closer.
J. K. Simmons se produit fréquemment au théâtre. A Broadway, il a incarné le colonel Jessup dans
A Few Good Men, une pièce écrite par Aaron Sorkin ; Brian Doyle dans
Laughter on the 23rd Floor de Neil Simon, Benny Southwtreet dans
Guys and Dolls et le capitaine Crochet dans
Peter Pan.
En 2008, on a pu le voir au cinéma dans
Détention Secrète de Gavin Hood,
Juno de Jason Reitman et
Burn After Reading des frères Coen.