72/13, 84/13.
Пусть вершины P и Q прямоугольника MPQK принадлежат сторонам соственно AB = 10 и BC = 17 треугольника ABC, а вершины M и K – стороне AC = 21. По формуле Герона SABC = = 7·3·4 = 84.
Если BD – высота треугольника ABC, то BD = 2SABC/AC = 8.
Пусть PM = x. Тогда PQ = 12 – x. Из подобия треугольников PBQ и ABC следует, что их высоты BT и BD относятся, как основания PQ и AC, то есть
8–x/8 = 12–x/21, откуда x = 72/13.