Ну с учётом того, что в институтах Вы не обучались - первую систему (она у Вас определенная) решайте по Гауссу (это в школе проходят). Это так называемый прямой алгоритм (бывают ещё итерационные) и заключается в следующем: при помощи первого уравнения исключаете x1 из всех остальных (кроме самого первого) уравнений. При помощи второго уравнения исключаете x2 из всех остальных (кроме первого и самого второго) уравнений. И т.д. На последнем шаге имеете одно (последнее уравнение с одним последним неизвестным). Это прямая прогонка. Затем делаете обратную прогонку: из последнего уравнения с одним неизвестным находите это неизвестное x(n). Зная x(n), из предпоследнего уравнения находите x(n-1) и т.д. вплоть до х1. Это самый простой и обший алгоритм... В общем случае он может быть неустойчивым для плохо обусловленных матриц, но эти и другие более сложные аспекты вычислительной линейной алгебры уже институтская программа...

По второму Вашему вопросу: это так называемая переопределённая система линейных уравнений, в общем случае она имеет бесконечно много решений. Решается она так: два из 4 неизвестных об'являются параметрами (например х3 и х4) и перенесятся в правую часть. В результате система становится определенной и может быть решена тем же методом Гаусса. В результате имеете решение в виде х1 = f1(x3,x4), x2 = f2(x3,x4) где f1 и f2 - некоторые линейные функции от х3 и х4. Подставляя в эти функции произвольные наборы х3, х4 получаете х1 и х2.