美茵茲音樂學院始建於1882年，當時被命名为 "Paul Schumacher′sches Conservatorium der Musik"，為一所私立音樂學院。1920年由美茵茲市政府接管並改建成为音樂學院。1936年正式更名為 "Peter-Cornelius-Konservatorium"， 即現在的美茵茲音樂學院。