надо a*b  чтобы они были взаимно простые и в ответе давали 864( 2 способа) 

Взаимно простые числа - это числа, у которых нет общих делителей, кроме единицы

864 = 2 * 2 * 2 * 2 * 2 * 3 * 3 * 3 - разложение на простые множители

1 способ: а = 2 * 2 * 2 * 2 * 2 = 32;   b = 3 * 3 * 3 = 27
32 * 27 = 864

2 способ: а = 864;   b = 1 
864 * 1 = 864