Para resolver un sistema lineal con una matriz 3x3, lo primero es escribir el sistema en forma ordenada. Por ejemplo, si tienes tres ecuaciones con tres incógnitas, conviene ponerlas como ax + by + cz = d. Después construyes la matriz de coeficientes, que es la formada solo por los números que acompañan a x, y y z. Si el sistema es:
2x + y - z = 3
x - 2y + 3z = 4
3x + y + 2z = 5
entonces la matriz de coeficientes es
2 1 -1
1 -2 3
3 1 2
y al lado puedes poner la columna de términos independientes 3, 4 y 5.
El método más práctico en la mayoría de los casos es Gauss. Consiste en transformar la matriz en una forma más simple usando operaciones elementales por filas: intercambiar filas, multiplicar una fila por un número distinto de cero y sumar a una fila otra fila multiplicada por un número. El objetivo es dejar ceros debajo de la diagonal para poder resolver desde abajo hacia arriba. En el ejemplo, puedes usar la primera fila para hacer cero el primer número de la segunda y tercera filas. Luego sigues con la segunda columna hasta obtener una matriz triangular. Una vez que llegas ahí, resuelves z primero, luego y y al final x. Este método suele ser más rápido y seguro que buscar la inversa.
La matriz inversa también sirve, pero solo cuando la matriz de coeficientes es invertible, es decir, cuando su determinante no es cero. En ese caso, si llamas A a la matriz de coeficientes y X a la columna de incógnitas, el sistema se escribe como AX = B. Entonces la solución es X = A⁻¹B. El problema es que calcular una inversa 3x3 a mano puede llevar bastante tiempo y es fácil equivocarse, así que normalmente se usa más para verificar o cuando el ejercicio lo pide expresamente.
El determinante ayuda a saber si el sistema tiene solución única. Si det(A) es distinto de cero, hay una sola solución. Si det(A) es cero, puede que no tenga solución o que tenga infinitas soluciones, y ahí conviene analizar el sistema con Gauss. Un error muy común es olvidar que una fila puede multiplicarse por un número, pero eso cambia el valor del determinante; si solo quieres resolver el sistema, no pasa nada, pero si estás calculándolo, hay que llevar el control.
Mi consejo es que primero practiques Gauss hasta hacerlo mecánico. Ordena bien las ecuaciones, escribe cada paso con claridad y revisa los signos en cada operación. Si quieres comprobar tu resultado, sustituye los valores finales en las tres ecuaciones originales. Con eso detectas enseguida si hubo un fallo de cálculo. Si quieres, puedo resolverte un ejemplo completo paso a paso con números.
