У вас бы все получилось, если бы вы просто индексы у напряжений поставили изначально, тогда не проскочили бы мимо верного решения
Зарядили конденсатор:
Q=CU1^2/2
Далее увеличили ёмкость в 2 раза, заряд остался прежний:
CU1^2/2=2CU2^2/2
Сокращаем на С и 2, остаётся:
U1^2/2=U2^2
отсюда:
U2=U1/sqr(2)=U1/1.41
Вот и всё.