Рассмотрим уравнение \(a^2 + b^2+ab =a+b => a^2 + b^2+ab -a -b =0\). Найдем корни этого квадратного уравнения, предварительно сгруппируем его $$a^2 + a(b -1)+(b^2 -b) =0$$ $$a_{1,2} = \frac{-b+1 \pm \sqrt{b^2-2b+1-4b^2+4b}}{2} = \frac{-b+1 \pm \sqrt{-3b^2+2b+1}}{2} \quad (1)$$ Мы получили два корня, при этом корни представляют собой функцию от одной переменной, т.е. нам необходимо найти такие значения \(b\), при которых \(a\) принимает максимальное значение, а это уже нахождение экстремума.
У нас получилось два корня, отличающиеся только знаком перед \(\pm \sqrt{-3b^2+2b+1}\) Т.к. нам нудно максимальное \(a\), то рассмотрим корень с \(+ \sqrt{-3b^2+2b+1}\).
Рассмотрим первый корень и найдем экстремум $$(a_1)' = (\frac{-b+1 + \sqrt{-3b^2+2b+1}}{2})'=0 =>\frac{-1+\frac{-6b+2}{2\sqrt{-3b^2+2b+1}}}{4}=0=>$$$$-1+\frac{-6b+2}{2\sqrt{-3b^2+2b+1}}=0 =>-1+\frac{-3b+1}{\sqrt{-3b^2+2b+1}}=0 =>$$$$-3b+1-\sqrt{-3b^2+2b+1}=0 => -3b+1 =\sqrt{-3b^2+2b+1} $$Возводим обе стороны равенства в квадрат $$1-6b+9b^2 = -3b^2+2b+1 =>12b^2-8b=0=>4b(3b-2)=0 => $$$$ \left[ \begin{matrix}b=0\\b=\frac{2}{3}\end{matrix}\right. $$Нам необходимо учесть ОДЗ подкоренного выражения ;$$-3b^2+2b+1 \geq 0 =>(b-1)(b+\frac{1}{3}) \leq 0 => b \in [-\frac{1}{3};1]$$Подставляем полученные значения \(b\) в формулу (1) и найдем значение \(a\) $$\left[\begin{matrix}b=0;& a = \frac{-b+1 + \sqrt{-3b^2+2b+1}}{2}\\b=\frac{2}{3}; & a = \frac{-b+1 + \sqrt{-3b^2+2b+1}}{2}\end{matrix}\right.=>
\left[\begin{matrix}b=0;& a = 1\\b=\frac{2}{3}; & a = \frac{2}{3}\end{matrix}\right.$$ Из двух решений выбираем то, у которого \(a\) больше, т.е. \(b=0;a=1\). Т.о. мы нашли,что при \(b=0;a=1\) значение выражения максимальное $$a^2+b^2 = 0+1=1$$
