Si me permites, un breve comentario.
La tarjeta TB6560 ya la tienes así que trata de utilizarla.
Con respecto a los ajustes que mencionan es muy posible que ése sea el problema. Un detalle que te puede confirmar si es eso es el zumbido de los motores. Si "zumban" es muy posible que la frecuencia de los pulsos (léase la velocidad y/ó la aceleración) sea muy alta sobre todo si los motores ya tienen carga.
En este punto hay que recordar que entre más alta la velocidad que se le pide a un motor a pasos menor es su fuerza (torque).
Trata de realizar los primeros ajustes con los motores libres.
Con respecto a la computadora, es muy posible que puedas reducir la cantidad de memoria utilizada para el video. Debes entrar en la tabla de configuración y cambiar dicha cantidad. Sólo asegúrate que sea la mínima que requiera el programa que utilices. Igualmente en Windows trata de cambiar la resolución. Normalmente Windows se autoconfigura para trabajar a 1280 X 1024 pixeles. Te sugiero reducirla a no más de 1024 X 768. Si tu programa de control acepta menos que eso, mejor.
Espero que estas ideas te ayuden.
Saludos.