O acervo do Museu Paulista tem sua origem em uma coleção reunida pelo Coronel Joaquim Sertório, da qual constavam espécimes de História Natural peças de interesse etnográfico e histórico. Esta coleção particular encontrava-se na própria residência do Coronel, situada no Largo Municipal, hoje Praça João Mendes. Em 1890, a coleção foi adquirida pelo Conselheiro Francisco de Paula Mayrink, que a doou, juntamente com objetos da coleção Pessanha, ao Governo do Estado.
Em 1891, o Presidente do Estado, Américo Brasiliense de Almeida, deu a Alberto Löefgren, botânico da Comissão Geográfica e Geológica do Estado a incumbência de organizar esse acervo, designando-o Diretor do recém-criado Museu do Estado. As coleções existentes foram reunidas, em 1892, num prédio localizado no Largo do Palácio, atual Pátio do Colégio. No ano seguinte, foram transferidas para um prédio situado na Rua da Consolação.
Em 1893, o Museu do Estado deixa de pertencer à Comissão Geográfica e Geológica, por determinação do então Presidente do Estado, Bernardino de Campos. Como Diretor do Museu é designado o zoólogo Hermann von Ihering, incumbido de transferir o acervo da instituição para um novo local: o edifício-monumento recém-inaugurado, às margens do Ipiranga.
Essa decisão foi tomada para atender às determinações do Governo Provisório do novo regime republicano que, ao incentivar a conclusão do monumento em 1890 exige que a ele fosse dado um “destino útil”: de escola ou instituição científica.
O Governo determina, então, que o Monumento do Ipiranga seja utilizado para abrigar o Museu do Estado, lei n. 192 de 25 de agosto de 1893.
Transferida no ano seguinte, já sob a denominação de Museu Paulista, a instituição é oficialmente inaugurada a 7 de setembro de 1895 pelo Presidente do Estado, ficando subordinada à Secretaria dos Negócios do Interior, posteriormente da Educação.
Ao longo de seus mais de cem anos, o Museu Paulista sofreu uma série de modificações com o desmembramento de parte de seus acervos: em 1927, a seção de Botânica passou a integrar o Instituto Biológico de Defesa Agrícola e Animal; 12 anos depois, em 1939, é a vez da seção de Zoologia, que passa a fazer parte da Secretaria de Agricultura, dando origem ao atual Museu de Zoologia da USP. A mais recente reformulação, ocorrida em agosto de 1989, transferiu os acervos arqueológicos e etnológicos para o Museu de Arqueologia e Etnologia da USP, restringindo, assim, a tipologia das peças que compõem o acervo da Instituição, atualmente, ao campo exclusivamente histórico.