При умножении и делении смешанных чисел их нужно перевести в неправильные дроби(целую часть умножить на знаменатель дробной части и прибавить числитель дроби, это новый числитель, знаменатель оставить прежним). А при вычитании можно делать так же, но лучше выполнить приведение дробных частей к общему знаменателю и вычитать отдельно целые и дробные части. Если у уменьшаемого числитель меньше, чем у вычитаемого, то приходится "занимать" 1 целую и переводить ее в неправильную дробь.