Почему плюс сменился на минус? Если c² = a² + b², то почему BH² = 900 - x² ??

посмотри внимательно соствие: гипотенуза с=АВ, то есть в данной задаче АВ²=АН²+ВН² по Пифагору