Найдите вероятность того, что забытая последняя цифра pin-кода будет правильно подобрана не более чем с 3-ей попытки. понимаю, что ответ должен быть 3/10, но никак не получается прийти к такому только класс 10, а не 5- не знаю как поменять

Чуть проще найти вероятность противоположного события. Найдем сначала вероятность того, что абоненту придется звонить более, чем в 4 места.

Задачу можно понять двояко. 
1) Первый вариант понимания (нереалистичный) заключается в следующем: у абонента напрочь отсутствует память (или он недалёкий человек). После очередной попытки он не запоминает "неудачные" цифры, и на следующий раз выбирает случайный номер опять из всех 10 вариантов. Тогда вероятность неудачи на каждом шаге равна 9/10 (всего 10 вариантов для последней цифры, и только одна цифра верная). Тогда вероятность того, что он ошибется 4 раза подряд, равна  9/10 * 9/10 * 9/10 * 9/10 = 0,6561. Отсюда вероятность искомого события 1 - 0,6561 = 0,3439
2) Второй вариант понимания (наиболее вероятный). Абонент запоминает неудачные попытки, и в дальнейшем уже не пробует заведомо неверные номера. Первая попытка будет неуспешна по-прежнему с вероятностью 9/10. Вторая - с вероятностью 8/9 (теперь осталось вариантов 10 - 1 = 9, и 8 из них нехорошие). Третья - с вероятностью 7/8, четвертая - с вероятностью 6/7.
Таким образом, вероятность того, что абоненту 4 попыток НЕ хватит, равна
9/10 * 8/9 * 7/8 * 6/7 = 6/10 = 0,6
Искомая вероятность 1 - 0,6 = 0,4.

Заметим, что абонент с памятью и в самом деле поступает умнее: вероятность того, что четырех попыток ему хватит, выше (0,4 против 0,3439)



Задачу можно решать и по-другому, подсчитывая число возможных раскладов.
Пусть абонент поступает так: сразу выбирает 4 цифры из 10, а затем звонит по получившимся 4 номерам.
Общее число возможных выборов 4 цифр из 10 возможных = "цэ из 10 по 4" = 10! / (4! 6!)
Число неудачных выборов = число выбрать 4 цифры из 9 неудачных = "цэ из 9 по 4" = 9! / (4! 5!)
Вероятность неудачного выбора = число неудачных / общее число = (9! / (4! 5!)) / (10! / (4! 6!)) = 9! / 10! * 6! / 5! = 1/10 * 6 = 6/10