En 1977, Grisham est diplômé en sciences comptables de l'université d'État du Mississippi. Après avoir obtenu une licence en droit du Mississippi School of Law en 1981, il se joint à un bureau d'avocats œuvrant dans la petite ville de Southaven. Après dix années à travailler pour celle-ci, il en assez des causes criminelles, tout en étant efficace dans les poursuites au civil.
En 1983, il est élu comme représentant à la Maison des représentants de l'État du Mississippi où il restera jusqu'en 1990.
Il publie en 1989 son premier roman, Non coupable, mais c'est en 1991, avec La firme, qu'il rencontre le succès. Depuis, L'affaire Pélican (1992), Le couloir de la mort (1994), L'idéaliste (1995), Le maître du jeu (1996) et L'associé (1999) ont contribué à en faire la figure de proue du " legal thriller ".
Mettant à profit son expérience du barreau, il nous dévoile les rouages du monde judiciaire, et aborde par ce biais les problèmes de fond de la société américaine.