в треугольнике ABC угол С равен 90 градусов, CH - высота, AC = 10, AH = 8. Найдите cosB

Cos - это отношение ПРИЛЕЖАЩЕГО катета к гипотенузе.
АВ - гипотенуза.
СН - высока, проведенная к АБ.

Высота в прям-ом треугольнике делит сторону пополам, из этого следует, что: АВ=АН*НВ=8*2=16. 
ΔАСВ - прямоугольный ( дано. ) из этого следует, что мы можем  применить теорему пифагора, чтобы найти второй катет (СВ).
Итак,  АВ - гипотенуза, равная 16 ( до док-му. ).
           АС - катет, равный 10 ( дано. )
Тогда СВ = [tex] \sqrt{256-100}= \sqrt{156}= \sqrt{39*4} =2 \sqrt{39} [/tex]

Cos B= отношению СВ к АВ (СВ/AB), тогда Cos B = [tex] \frac{2 \sqrt{39} }{16}= \frac{ \sqrt{39} }{8} [/tex] ~ 0.8.