w połowie lat siedemdziesiątych Śpiewając w pubach w sekstecie bluegrassowym Flip City. By utrzymać wcześnie założoną rodzinę, pracował jako operator komputera w jednym z biur i najmował się jako roadie grupy Brinsley Schwartz. Było to możliwe dzięki przyjaźni z basistą zespołu Nickiem Lowe'em, którego poznał w 1972 roku. W przyszłości Lowe będzie producentem większości jego albumów. Po rozwiązaniu Flip City Costello występował jako solista, by w 1976 roku odpowiedzieć na ogłoszenie prasowe, którym firma Stiff Records obwieszczała, że poszukuje młodych talentów. Nie mając stałego zespołu w studiu wsparła Costella amerykańską grupą countryrockową Clover, której członkowie utworzyli później, na początku lat osiemdziesiątych