Arboretum Mustilan perusti todellinen valtioneuvos A. F. Tigerstedt Mustilan kartanon länsipuolella sijaitsevalle Kotikunnaan mäelle. Ensimmäiset istutukset tehtiin 1902. Tarkoituksena oli tutkia ulkomaisten havupuiden viihtymistä metsäpuuna verrattuna kotimaisiin puulajeihin.  Arboretumin historian alusta asti Tigerstedt oli kuitenkin kiinnostunut puista myös esteettisesti ja koetoiminta laajeni nopeasti myös lehtipuihin ja koristepensaisiin. Valtioneuvoksen apuna oli hänen poikansa C. G. Tigerstedt, joka jatkoi isänsä työtä ja perusti Arboretumiin uusia alueita, mm. kuuluisan Alppiruusulaakson, "puutarhataiteen kokeilualueen".

Vuodesta 1984 lähtien Arboretum Mustilaa on hoitanut ja ylläpitänyt Mustilan kotikunnassäätiö. Säätiön aikana koetoiminta on puhjennut uuteen kukoistukseen ja Arboretum on avattu yleisölle julkiseksi retkikohteeksi.

Kasvupaikkana Arboretum Mustila on monipuolinen, ja 120 hehtaarin alueelta löytyy runsaasti erilaisia kasvupaikkoja kunkin kasvin erityisvaatimuksia varten. Elimäki kuuluu menestymisvyöhykkeeseen III, mutta pienilmastoltaan edullinen Arboretum on suurelta osin laskettavissa pikemminkin II-vyöhykkeeseen.