Растрировать не нужно. На алюкорексе не забивайте себе этим голову.
Скорее всего проблема в приготовлении краски. На тампоны пока тоже не отвлекайтесь. Краска должна быть примерно такой вязкости, чтобы стекая, например с палочки, образовывала на поверхности небольшую пирамидку, которая тут же расстекается. Добиться этого нужно разбавителем. Тормоз как правило не использую совсем. Лишь при очень высокой температуре в цехе. И не забывайте о скорости печати. Этот станок позволяет регулировать многие параметры. Принцип печати: тампон забирает краску с клише, после этого перемещается на запечатываемое изделие. За это время краска не должна высохнуть на тампоне и в тоже время не быть слишком жидкой что ли. Как поймаете этот баланс так будет все ОК.