20 maja 1999 roku ukazał się split The Dillinger Escape Plan wraz z grupą Nora. 28 września tego samego roku nakładem Hydra Head Records ukazał się debiutancki album zespołu pt. Calculating Infinity. Również w 1999 roku ukazał się split nagrań The Dillinger Escape Plan wraz z Drowningman. Pod koniec 2001 roku do zespołu dołączył wokalista Greg Puciato, który zastąpił Dimitria Minakakisa.
W marcu 2002 roku muzycy w nowym składzie odbyli europejską trasę koncertową poprzedzając występy System of a Down. 27 sierpnia tego samego roku nakładem Epitaph Records ukazał się trzeci minialbum pt. Irony Is a Dead Scene. Gościnnie na płycie partie wokalne zarejestrował Mike Patton znany z występów w grupie Faith No More. 3 stycznia 2003 roku ukazał się pierwszy album koncerty formacji pt. Cursed, Unshaven and Misbehavin': Live Infinity. 20 lipca 2004 roku nakładem Relapse Records ukazał się drugi album grupy pt. Miss Machine. Wydanie płyty poprzedził teledysk do utworu "Panasonic Youth" w reżyserii Josha Grahama.