Köstebek, Massachusetts Eyalet Polisi'nin şehrin en büyük suç organizasyonunu çökertmek için geniş çaplı bir mücadele başlattığı Güney Boston'da geçiyor. Amaç, güçlü mafya babası Frank Costello'nun (Jack Nicholson) egemenliğine içeriden bir müdahaleyle son vermektir. Güney Boston'da büyümüş olan genç çaylak Billy Costigan'a (Leonardo DiCaprio), Costello'nun çetesine sızma görevi verilir. Billy, Costello'nun güvenini kazanmaya çalışırken, "Güney Yakası"nın sokaklarından gelen bir başka genç polis Colin Sullivan (Matt Damon) da eyalet polis teşkilatında basamakları hızla tırmanmaktadır. Üstlerinin bilmediği şey, Colin'in Costello için çalıştığı ve suç patronunun polisin hep bir adım önünde olmasını sağladığıdır. Her iki adam da, içine sızdıkları organizasyonun planları ve karşı planları hakkında bilgi toplarken, sürdürdükleri çifte yaşamları yüzünden oldukça zorlanmaktadırlar. Ama hem gangsterler hem polisler aralarında bir köstebek olduğunu anlayınca, Billy ve Colin sürekli olarak düşman tarafından yakalanma tehlikesiyle karşı karşıya kalırlar.