Hola, eso si que es por holguras (lo del circulo con esquinas)
Tienes que comprobar una cosa muy sencilla, pon el comparador en el eje X por ejemplo, apagas todo, giras el motor a mano 1,2,3 pasos.... depende de la reducción que tengas, el comparador se tendra que mover proporcionalmente, apuntas, y giras los pasos en el motor al lado contrario, si el comparador no vuelve al mismo sitio tienes holgura, lo cual es muy normal, la tienes que medir y compensar en el software, pero nunca conseguiras que las fuerzas de corte sean correctas y observarás pequeños desplazamientos cada vez que cambies de dirección,
Esta holugra con husillos de bolas esto suele ser mínima, pero.... si las correas son pequeñas, con la fuerza de corte se estiran/encogen y tendras unas pocas decimas de holgura (los husillos de bolas no "retienen" el corte), si usas alguna reductora, mas holgura todavía, si la mesa no esta bien ajustada, se traduce en holguras que además pueden despistar....
Si te sirve de consuelo yo nunca he conseguido dejar nada con menos de 1 centesima de holgura (aunque los husillos tenga 0 observable)...
, salvo transmisiones por fricción que adolecen de otros problemas,