Алгоритм решения:
1. Составим расширенную матрице системы \((A|B)\). В условии задачи она уже дана.
2. Используя элементарные преобразования над строками матрицы \((A|B)\), приводим ее к ступенчатому виду. Для этого применим метод Гаусса $$(A|B) = \left(\begin{array}{c} 2& 1 & 2 & 0 \\ -4 & 0 & 1 & 3\\ 2 & 3 & 7 &3 \end{array}\left|\begin{array}{c} -3\\ 1\\ -8 \end{array}\right.\right) =$$умножим первую троку на 2 в сложим со второй строкой$$=\left(\begin{array}{c} 2& 1 & 2 & 0 \\ 0 & 2 & 5 & 3\\ 2 & 3 & 7 &3 \end{array}\left|\begin{array}{c} -3\\ -5\\ -8 \end{array}\right.\right)=$$из третьей строки вычтем первую$$=\left(\begin{array}{c} 2& 1 & 2 & 0 \\ 0 & 2 & 5 & 3\\ 0 & 2 & 5 &3 \end{array}\left|\begin{array}{c} -3\\ -5\\ -5 \end{array}\right.\right) =$$Получилось, что вторая и третья строки равные. Вычтем из третьей строки вторую $$=\left(\begin{array}{c} 2& 1 & 2 & 0 \\ 0 & 2 & 5 & 3\\ 0 & 0 & 0 &0 \end{array}\left|\begin{array}{c} -3\\ -5\\ 0 \end{array}\right.\right) $$Прямой ход метода Гаусса закончен.
3. Обратный ход метода Гаусса. Умножим первую строку на 2 и вычтем из нее вторую строку.
$$=\left(\begin{array}{c} 4& 2 & 4 & 0 \\ 0 & 2 & 5 & 3\\ 0 & 0 & 0 &0 \end{array}\left|\begin{array}{c} -6\\ -5\\ 0 \end{array}\right.\right)
=\left(\begin{array}{c} 4& 0 & -1 & -3 \\ 0 & 2 & 5 & 3\\ 0 & 0 & 0 &0 \end{array}\left|\begin{array}{c} -1\\ -5\\ 0 \end{array}\right.\right)$$
4. Получили, что переменные \(x_1;x_2\) (первые ненулевые переменные в строках)- базисные переменные, а \(x_3;x_4\) - свободные. Записываем формулу общего решения $$\begin{cases}4x_1\quad -x_3 -3x_4\quad =-1\\ \quad 2x_2+5x_3+3x_4 = -5\end{cases}=> $$$$\begin{cases} x_1= \frac{1}{4}x_3+ \frac{3}{4}x_4- \frac{1}{4}\\x_2=- \frac{5}{2}x_3-\frac{3}{2}x_4 - \frac{5}{2}\end{cases}$$
5. Находим частное решение неоднородной системы, положив все свободные переменные равны нулю.
$$\begin{cases} x_1=-\frac{1}{4}\\x_2= -\frac{5}{2} \\ x_3 = 0 \\x_4 = 0\end{cases} => x^H = (-\frac{1}{4}\quad -\frac{5}{2} \quad 0 \quad 0)^T$$
6. Находим фундаментальную систему решений однородной систем. Количество неизвестных в системе \(n = 4\). Найдем ранг матрица, для этого можно найти определитель $$rg A = \left|\begin{array}{c}4&0\\ 0 &2\end{array}\right| = 8$$ \(r = rg A = 2\), т.е. нам необходимо подобрать \(n-r=4-2=2\) - независимых решений. Подставляем в систему стандартные наборы значений свободных членов (т.е. 0 и 1)
если \(x_3=1;\quad x_4=0\), то \(x_1=0;\quad x_2=-5\)
если \(x_3=0;\quad x_4=1\), то \(x_1=\frac{1}{2};\quad x_2=-4\)
В результате получили фундаментальную систему решений $$\phi_1 =\left(\begin{array}{c}0\\-5 \\1 \\ 0 \end{array}\right) \quad \phi_2 =\left(\begin{array}{c}\frac{1}{2}\\-4 \\0 \\ 1 \end{array}\right)$$
7. Записываем общее решение неоднородной системы $$x = x^H+C_1\cdot \phi_1+C_2\cdot \phi_2 => $$ $$x = \left(\begin{array}{c}-\frac{1}{4}\\ -\frac{5}{2} \\0 \\ 0 \end{array}\right)+C_1\cdot \left(\begin{array}{c}0\\-5 \\1 \\ 0 \end{array}\right)+C_2\cdot\left(\begin{array}{c}\frac{1}{2}\\-4 \\0 \\ 1 \end{array}\right) => $$