Грубо говоря уровень сглаживания влияет на то как шрифты будут рисоваться.

как ни пародаксально но метод renderer.setSmoothingThreshold(value); ничего не меняет.
System.out.println(renderer.getSmoothingLevel()); всегда возвращает значение 0 которое прописывается в конфигурационном файле что лежит в Jar /resources/conf и так далее.

что интересно приведенный код я взял у них из примера поставляемого с библиотекой. Что то вроде browser, и у них он работает на ура можно менять уровень сглаживания шрифта на ходу с перерисовкой содержимого,а вот у меня тот же самый код с теми же исходниками глючит. Вроде проверил в примерах в каком порядке вызываются методы ан нет.

Куда посмотреть то можно ?

воте раз.
сам и ответ нашел случайно
здесь
Java2DTextRenderer renderer = (Java2DTextRenderer) xpanel.getSharedContext().getTextRenderer();

надо было оставить
TextRenderer renderer = xpanel.getSharedContext().getTextRenderer();

TextRenderer интерфейс

все заработало как надо