Взамен is typically about replacing something for a reason, e. g. the old thing is already (or expected to be) gone (lost or given/promised to somebody), can't be used anymore. The idea of compensation (finding a good replacement) is here:
Взамен украденного/поломанного велосипеда он купил новый (или купил
мопед).
Если ты отдашь мне эту редкую монету, я взамен дам тебе любую другую
(или окажу важную услугу).
Вместо has much wider meaning and is applicable to both things and actions (instead or rather than doing something).
Вместо шляпы на ходу он надел сковороду.
Вместо лампочки накаливания лучше поставить светодиодную.
Вместо того, чтобы обратиться в полицию, он решил сам наказать обидчика.