Hola yasuni1000, lo primero era saber si realmente el mal acabado son vibraciones, una foto ayudaria.
Cuando hay vibraciones es porque una parte o las 2 (pieza, cuchilla) flexan o ceden durante el corte.
También se puede producir algo similar si el filo o la incidencia son incorrectos, aunque en este caso ya sería otro fenómeno, como una especie de deslizamiento sobre el material de la pieza, dejando un acabado rugoso.
La cuchilla bien afilada, tienes que ponerla con el mínimo vuelo y firmemente sujeta a la torreta. Si acaso el torno es poco rígido o no está bien sujeto al banco (en este 2º supuesto agarrarlo con firmeza) , deberás hacer las pasadas mas pequeñas para reducir el esfuerzo al cortar.
La pieza no debe sobresalir del plato mas que unas 2 veces su diámetro (+-, depende de la rigidez del material) para asegurarnos la firmeza, y si lo hace mas, es obligatorio el uso del contrapunto para sujetarla por el otro lado.
También puede afectar en el acabado la altura inadecuada de la cuchilla, la incidencia del filo, cuchilla con zona de corte muy ancha, material muy duro para la cuchilla usada, velocidad-revoluciones incorrectas, etc, etc.
Habia que saber que tipo de cuchilla usas y como tiene el filo.
Si pones alguna foto detallada del acabado, del montaje en el momento de trabajar la pieza y de la cuchilla, seguro que alguien te ayuda a solucionar el problema.