Rzeczownik anchois w znaczeniu ‘koreczek, filet lub pasta z solonych sardeli z oliwą i przyprawami korzennymi’ został zapożyczony do polszczyzny z języka francuskiego. Jedno z pierwszych poświadczeń pochodzi z drugiej połowy XIX w. (por. T. Bartmański, Ekonomia domowa, czyli Przepisy tyczące się gospodarstwa wiejskiego i domowego z dodatkiem objaśnień osobliwości artystycznych‎, Warszawa: S. Orgelbrand, 1856, s. 219).

Wyraz był obecny w języku starofrancuskim. Jego źródłosłów najprawdopodobniej wygląda następująco: język starooksytański *anchoia ← liguryjski *anciôa ← łacina ludowa *apiuva ← język łaciński aphiē (dosł. ‘drobnica; mała ryba’) ← starogrecki ἀϕύη (trb. aphúē) jako derywat od ᾰ̓- (trb. a-, pol. ‘nie’) +‎ ϕύω (trb. phúō, pol. ‘rosnąć’). Szwajcarski językoznawca, indoeuropeista Michael Meier-Brügger sugeruje pochodzenie od praindoeuropejskiego rdzenia *n̥-bʰúH-o- (dosł. ‘bez wzrostu’). Jest to formacja późniejsza niż sanskrycki wyraz अभ्व (trb. abhva, dosł. ‘potwór’).