Нехай швидкість катера x км/год
9 хв = 9/60 год = 3/20 год
3 3/20 год = 63/20 год
42/(x+3)+42/(x-3)=63/20

(42x-42*3+42x+42*3)/(x^2-9)=63/20
63(x^2-9)=20*84x
3x^2-80x-27=0
D=6400+12*27=6724=82^2
x_1=(80+82)/6=27
x_2=(80-82)/6=-1/3<0 - не задовольняє умову задачі
Відповідь: 27 км/год