я считаю что все иначе. тыж аккуратно отпускаешь стержень ! вот твоя систем быстренько выбирает неидеальность твоей ручной установки конца стержня, а затем он нчинает реально заваливаться и вот тут система начинает раскачиваться с класическими заскоками перерегулирования одного П и упирается в ограничения хода.
Если б были логи или хотябы видео в одной плоскости то можно было бы объективно разобраться в чем дело.
но как узнать достигли ли актуаторы предела без ОС по их положению ?
Наклеить флажки и границы чтоб на видео видеть ?
Для одной плоскости нужно нормальный шарнир сделать на двух подшипниках или на втулке.