The numeral два in old Russian was declined in such called dual number, now lost:
два
дву
двома
дву
двома
о два
два
Later, with the loss of dual number, its declension paragidm changed to that of demonstrative pronouns in plural, with the base form taken from the old genitive:
два (те)
дву-х (тех)
дву-м (тем)
дву-х (тех)
дву-мя (теми)
о дву-х (о тех)
The instrumental case got contaminated with the old declension paradigm (and has also contaminated the inst. of три and четыре: тремя, четырьмя).
Both the old (дву-) and the new (двух-) genitives remained productive for complex words, however in the modern language there is a trend to use двух- for new words. In words which allow both forms, the old form дву- is usually perceived as a high style, formal version.
Rosenthal in Справочник по правописанию, произношению и литературному редактированию advices:
Равноправны варианты сложных слов, в состав которых входит элемент: дву- /–двух-, например: двуголосный – двухголосный, двудонный – двухдонный, двуклассный – двухклассный, двулетний – двухлетний, двупольный – двухпольный, двускатный – двухскатный, двусложный – двухсложный, двустволка – двухстволка, двусторонность – двухсторонность.
Сложные слова двубортный, двуглавый, двугривенный, двуединый, двужильный, двузначный, двузубец, двуколка, двукратный, двуличный, двуперстие, двурогий, двусмысленный, двустопный, двууглекислый, двучлен, двуязычный и некоторые др. не допускают вариантов написания с двух-.
Но основной массив таких сложных слов пишется с элементом двух-: двухатомный, двухгодичный, двухкамерный, двухлетие, двухместный, двухпалубный, двухпроцентный, двухслойный, двухсотлетний, двухсуточный, двухтактный, двухтомный, двухчасовой, двухцветный, двухэтажный и др.
Разграничительную роль играет фонетико-орфоэпическое отличие: перед гласными (в том числе йотированными), как правило, употребляется двух- во избежание стечения двух гласных, например: двухактный, двухосный, двухъярусный, двухэлементный, но имеются отступления: двуокись, двууглекислый, двуязычие и некоторые др.