Основание прямой призмы -прямоугольный треугольник с катетами 6 дм и 8 дм. Найти площадь поверхности призмы, если её боковое ребро равно 12 дм.

Призма прямая, поэтому её ребро - её высота. 
Sбок пов призмы = Pосн * высоту
Гипотенуза основания равна =корень из (6*6 + 8*8) = 10 дм
Росн = 6+8+10 = 24 дм
Sбок пов призмы = 24 * 12 = 288 дм квадр
S полн пов призмы = 2*Sосн + S бок пов призмы
Sосн = 1/2 * 6 * 8 = 24 дм квадр
 S полн пов призмы = 2 * 24 + 288 = 336 дм квадр

У вас не указано, какую площадь надо найти, поэтому нашел обе: и полную и боковую.