5000mm/min supongo que será el máximo que da la máquina, es muchisimo avance, normal que tenga semejante error de seguimiento. O bajas el avance, o prescindes de ciclo fijo y tiras de G7+G36 para redondear las esquinas. Si se cambiara los parámetros máquina de manera que no permitiese tanto error de seguimiento el resultado iba a ser el mismo porque es lo que iba a hacer la maquina per se, limitar el avance.
Imagino que el técnico no solucionó nada porque no había ninguna avería que solucionar, es el funcionamiento normal.