Året er 1935, og Paul Edgecomb er chef for dødsgangen, kaldet Den grønne mil, i Cold Mountain fængslet i Louisiana. Trods stedets grumme formål drives det af Edgecomb og hans folk med både værdighed og humanisme. Der er blot en enkelt slange i dette "Paradis", nemlig den lille, lede sadist Percy Wetmore, der har fået job som vagt på dødsgangen takket være det forhold, at han er nevø af guvernørens kone. En dag ankommer den enfoldige, sorte kæmpe John Coffey til fængslet, dødsdømt for mordet på to små hvide piger. Edgecomb opdager så småt, at denne blide kæmpe er en clairvoyant healer, der gerne bruger sine mirakuløse evner i det godes tjeneste. Sammen med det forhold, at han nu også ved, at Coffey er uskyldigt dømt, sætter det Edgecomb i et alvorligt moralsk dilemma over at skulle eksekvere dødsdommen.