a^2+ab+x. заменить x чтобы получился квадрат двучлена

в общем случае (a+b)^2=a^2+2ab+b^2
в вашем случае удвоенное произведение членов равно ab, первый член равен a. второй член не известен.
ab=2*корень из x*a 
b=2*корень из x
корень из x=b/2
x=b^2/4
получается a^2+ab+b^2/4=(a+b/2)^2