kalexi1) Как верно изменять стиль компонентов Swing своего приложения: создавать свой набор наследуя Swing-компоненты или меняя Look and Leel?

Всё зависит от того на сколько сильно нужно менять.
Synth LAF предназначен как раз для возможности натянуть свой скин
http://docs.oracle.com/javase/tutorial/uiswing/lookandfeel/synth.html
Nimbus имеет кучу мелких настрое для стилизации, которые просто менять.
http://docs.oracle.com/javase/tutorial/uiswing/lookandfeel/_nimbusDefaults.html

Реализация своего LAF достаточно трудоёмкая задача, поэтому для реализации чего-то экстравагантного, иногда, проще переопределить отрисовку. Но в этом случае есть большой риск того что отрисовка начнет притормаживать из-за этого.
Так что я бы не рекомендовал ни того ни другого.

kalexi2) Когда и в каком месте использовать super.paintComponent()?
Как я понимаю, он используется в том случае если нужно рисовать на родительском компоненте, а в случае если мы перерисовываем весь компонент - то им пользоваться не нужно?

super.paintComponent() вызывается из переопределенного метода paintComponent() в вашем компоненте. В JavaDoc подробно написано что если вы его не вызываете, то стоит позаботиться о правильном заполнении фона с учетом свойства opaque.

kalexi3) В каких случаях следует переопределять paintBorder(); Или для изменения границы использовать setBorder?

Если у вас очень не традиционный border.