Answer
a) $AB=\left[ \begin{matrix}
0 & 16 \\
12 & 8 \\
\end{matrix} \right]$
b) $BA=\left[ \begin{matrix}
-7 & 3 \\
29 & 15 \\
\end{matrix} \right]$
Work Step by Step
(a)
$\begin{align}
& AB=\left[ \begin{matrix}
1 & 3 \\
5 & 3 \\
\end{matrix} \right]\times \left[ \begin{matrix}
3 & -2 \\
-1 & 6 \\
\end{matrix} \right] \\
& =\left[ \begin{matrix}
1\left( 3 \right)+3\left( -1 \right) & 1\left( -2 \right)+3\left( 6 \right) \\
5\left( 3 \right)+3\left( -1 \right) & 5\left( -2 \right)+3\left( 6 \right) \\
\end{matrix} \right] \\
& =\left[ \begin{matrix}
3-3 & -2+18 \\
15-3 & -10+18 \\
\end{matrix} \right] \\
& =\left[ \begin{matrix}
0 & 16 \\
12 & 8 \\
\end{matrix} \right]
\end{align}$
(b)
$\begin{align}
& BA=\left[ \begin{matrix}
3 & -2 \\
-1 & 6 \\
\end{matrix} \right]\left[ \begin{matrix}
1 & 3 \\
5 & 3 \\
\end{matrix} \right] \\
& =\left[ \begin{matrix}
3\left( 1 \right)-2\left( 5 \right) & 3\left( 3 \right)-2\left( 3 \right) \\
-1\left( 1 \right)+6\left( 5 \right) & -1\left( 3 \right)+6\left( 3 \right) \\
\end{matrix} \right] \\
& =\left[ \begin{matrix}
3-10 & 9-6 \\
-1+30 & -3+18 \\
\end{matrix} \right] \\
& =\left[ \begin{matrix}
-7 & 3 \\
29 & 15 \\
\end{matrix} \right]
\end{align}$