\[7a^{3}b^{3} - 77a^{2}b^{3} - 21a^{3}b^{4} =\]
\[= 7a^{2}b^{3} \cdot \left( a^{3 - 2} - \frac{77}{7} - \frac{21}{7}a^{3 - 2}b^{4 - 3} \right) =\]
\[= 7a^{2}b^{3} \cdot (a - 11 - 3ab).\]