на тело М действует сила тяжести Mg вниз и сила натяжения нити N вверх
Mg-N = Ma1, где а1 - ускорение тела М вниз, а значит и нити вниз, а с другой стороны блока - вверх
на тело m действует вниз сила тяжести mg, а вверх та же сила натяжения N, она же - искомая сила трения
mg-N = ma2, где a2 - ускорение тела m относительно неподвижной системы координат, а значит ускорение относительно нити составит а2+а1, и по условию a' = a1+a2
соединяем все вместе
a' = a1+a2 = (g-N/M)+(g-N/m)
a' = (g-N/M)+(g-N/m)
a' = 2g-N*(1/M + 1/m)
откуда искомая N = (2g-a')/(1/M + 1/m)