K faktickému osamostatnění prehistorie v rámci sbírek muzea došlo již v předchozích letech. Předtím byly pravěké nálezy – v souladu s tehdejším stupněm vědeckého poznání – součástí obecněji chápaných a blíže nediferencovaných sbírek (sbírka starožitností, sbírka etnograficko-archeologická).
Od roku 1919 se datuje samotný název Prehistorické oddělení, od roku 1970 název Oddělení prehistorie a protohistorie, které bylo na základě organizační změny od 1. 7. 2010 sloučeno s Oddělením klasické archeologie do nového Oddělení pravěku a antického starověku
Na konci minulého století za působení vynikající osobnosti univ. prof. dr. Josefa Ladislava Píče (1893–1911) a jeho četných spolupracovníků započal systematický terénní archeologický výzkum Čech, který pomohl získat četné ověřené a spolehlivé nálezové celky, na nichž bylo možné budovat systém pravěkých dějin Čech. Byl tak nastolen směr, který pokračoval pod vedením dalších reprezentantů oddělení (Václav Fabian 1912–1913, Albín Stocký 1913–1929, Josef Schránil 1929–1935). Jiří Neustupný (1935–1978) jako zakladatel moderní české muzeologie s důrazem na archeologické obory vytvořil po válce v muzeu moderně fungující prehistorické a protohistorické oddělení. Na jeho činnost navazovali další – Jiří Břeň (1978–1993), Milan Lička (1993–2004).
V současné době oddělní spravuje dvě sbírky – archeologickou sbírku, která s více než 600 000 předmětů, patří svým rozsahem k největším sbírkám Historického muzea, a sbírku klasické archeologie.