Разложить на множители, (m+n)^3-m^2-2mn-n^2

Cамый очевидный вариант, раскрыть куб суммы и затем сгруппировать:
(m+n)³-m²-2mn-n² = m³+3m²n+3mn²+n³-m²-2mn-n² = 3m²n +3mn² -2mn + m³- m² +n³ -n²  = mn * (3m+3n-2) + m² * (m-1) + n² * (n-1)

Ещё можно дополнить до квадрата разности и не раскрывать, тогда будет выглядеть чуть компактнее:
(m+n)³-m²-2mn-n² = (m+n)³-m²-2mn+n² -2n² = (m+n)³-(m-n)² -2n²