найдите длину большого катета, если он больше второго на 5 и меньше гипотезы на 1
А. 6
Б. 12
В. 13
Г. не хватает данных для решения

Длина большего катета  = х 
Длина меньшего катета  = (х-5)
Длина гипотенузы = (х + 1)
По теореме Пифагора:
х²  + (х-5)² = (х+1)²
х² + х² - 2*х*5 + 5² = х² + 2х*1 + 1²
2х² - 10х + 25 = х² +2х + 1
2х² - 10х  + 25  - х² - 2х - 1 =0
х² - 12х + 24 = 0
D=(-12)² - 4*1*24 = 144 - 96 = 48
D>0 два корня уравнения
х₁ = (12 - √48)/(2*1) = (12 - √(4²*3) ) / 2 = (12-4√3)/2 =2(6-2√3)/2 = 6 - 2√3 не удовлетворяет условию задачи , т.к. 6 - 2√3 < 5 
х₂ = (12 +√48)/2 = 6 + 2√3  длина большего катета
6 + 2√3  - 5 = 1 + 2√3   длина меньшего катета
6 + 2√3   + 1 = 7 + 2√3  длина гипотенузы

Проверим равенство:
(7+2√3)² = (6+2√3)² + (1+2√3)²
7² + 2*7*2√3 + (2√3)² = 6² + 2*6*2√3 + (2√3)² + 1² + 2*1*2√3 +(2√3)²
49 + 28√3 + 12  = 36 + 24√3 + 12 + 1 + 4√3 + 12
61 +28√3 = 61 + 28√3

Подходящего ответа нет.
Проверь условие...