La doi ani după absolvire, și după ce a lucrat pentru scurt timp în mediul privat și ca asistent pentru judecătorul John M. Walker Jr. în Manhattan, Comey a fost numit asistent al Procurorului Districtului de Sud al New York, lucrând în această jurisdicție între 1987 și 1993, ajungând într-un final Șef Adjunct al Diviziei Penale.