скорее всего составитель задачи не понимает что пишет, т. к. дпи - точек на дюйм. А 600 на 1200 чет много для одного квадратного дюйма. ну ладно. Может это я тупой.
Решу как задано
на 1 квадратный дюйм у нас 600*1200= 720000 пикселей
Всего в картинке 40. 64*40. 64=1651. 6096 квадратных сантиметра
В дюйме 2. 54 см. Узнаем сколько квадратных дюймов в картинке = 1651. 6096/(2. 54^2)=256 кв. дюйма
А теперь 256 дюйм*720000 пикс/дюйм*4 бита=737280000 бит=~87 мегабайт