In addition to what shabunc said, you can try something like this

Эта задача не для средних умов

this expression marks task or text requiring good education and sharp wits

Над этой задачей придется хорошенько поломать голову

pretty self-explanatory, about very complicated tasks requiring much intellectual work to complete.

Эта задача не для слабых духом (вариант: сердцем)

this expression marks task or text, requiring great effort of some sort.

in colloquial speech some other idioms are used, as noted earlier без пол-литра не разберешься or это просто вынос мозга (adult slang).

In addition to what shabunc said, you can try something like this

Эта задача не для средних умов

this expression marks task or text requiring good education and sharp wits

Над этой задачей придется хорошенько поломать голову

pretty self-explanatory, about very complicated tasks requiring much intellectual work to complete.

Эта задача не для слабых духом (вариант: сердцем)

this expression marks task or text, requiring great effort of some sort.

in colloquial speech some other idioms are used, as noted earlier без пол-литра не разберешься or это просто вынос мозга (youth slang).