После строительства дома осталось некоторое количество плиток. их можно использовать для выкладывания прямоугольной площадки на участке рядом с домом. если укладывать в ряд по 10 плиток, то для квадратной площадки плиток не хватает. при укладывании по 7 плиток в ряд остается один неполный ряд, а при укладывании по 8 – тоже остается неполный ряд, в котором на 5 плиток меньше, чем в неполном ряду при укладывании по 7. сколько всего плиток осталось после строительства дома?

Читаю условие и записываю его математическим языком : 
I .   Пусть после строительства дома осталось  Х  плиток.
 Х < 10 * 10  
 Х < 100    (штук)
При этом мы знаем , что Х  - это число , которое возникает просто при счете  (1,2,3,4 и т.д.), т. е.  натуральное число.  
Х∈ N  , где N  - множество натуральных чисел.
В условии задачи   нет никаких дополнительных ограничений  (н-р: плитки меньше 100 , но больше  50 штук  и  т.п. ), значит ответом будет являться  любое число меньше  100 .

II. В задаче чётко  не прописано , что количество полных рядов плитки в обоих случаях совпадают, поэтому для обозначения количества рядов берем разные переменные.
1)  Пусть плитку уложили в b рядов  по  7 плиток , неполный ряд  (остаток) составит k  плиток. Получится уравнение:
Х =  7b  + k
При  этом число рядов b  - натуральное число:   b∈N
Известно, что  при делении на  7  минимальный остаток =1 ; а максимальный остаток  = 6 .  Т.е. наш остаток k  принадлежит промежутку чисел  :
k∈[1; 6]
2) Пусть плитку уложили в d  рядов  по  8 плиток  , неполный ряд  составит (k - 5)  плиток. Уравнение:
X = 8d  + (k - 5) 
d∈N
4) При k∈[ 1 ; 6 ]   очевидно , что при делении на  7 нужно взять максимальный остаток  6.
k  =  6  ;
(k - 5 ) =  6 - 5 = 1 
III. Вычислим максимальное количество рядов, которые могут быть :
7b + 6  < 100   ⇒  7b < 100-6   ⇒ 7b< 94  ⇒ b<13  2/7  ⇒ b≤13 (рядов)
8d  + 1 < 100   ⇒  8d < 100-1  ⇒  8d<99  ⇒ d<12,375   ⇒ d≤12 (рядов)
В данном случае , можно просто подставить  значения :
Х = 7 * 13  + 6  = 97 (штук)
Х = 8 * 12  + 1  = 97 (штук)
Х = 97 ( штук )  

IV.  Чтобы вычислить второй ответ можно приравнять уравнения:
8d + 1  = 7b + 6
8d = 7b  + 5
d = (7b + 5) : 8 
Вспоминаем, что d - натуральное число , следовательно :
сумма  (7b + 5)  делится на  8 без остатка.
При допустимом значении b≤13  очевидно второе  решение:
b = 5        ⇒ d = (7 * 5 + 5 ): 8  = 40 : 8  = 5  
Х = 5*5  + 6  = 41 (плитка)
Х = 8 * 5 + 1  = 41 (плитка)
Х = 41 (плитка) 

ответ:   97  плиток  или  41 плитка  могла остаться после строительства  дома.

Чистая математика ))

Разница  5 плиток возникает после 5 ряда. Накопление  разницы объясняется  разницей плиток в рядах  на 1 плитку.
Объяснение: 
         Ряды "8".                                       Ряды "7"
8 плиток - полный ряд "8"                   1 ряд "7"+1 во втором ряду.
16  плиток  2 полных ряда "8"            2 ряда "7" +2 в третьем ряду
 и  так далее  ... .

В  неполном ряду  "7"  должно  быть  + 6 плиток.  В  неполном ряду "8"  +1 плитка.  Тогда выполняется условие  6-1=5

7*5=35+6= 41  плитка
8*5=40+1= 41  плитка
Всё логично  и  понятно.

Есть ещё  ответ 97 плиток ( 7*13=91+6=97; 12*8=96+1=97),  это  плохие  строители,  которые не умеют считать.

Все условия  задачи, в том числе ограничение в 100 плиток  выполнены.