Atum1как garbage collector понимает что на объект нет ссылок ?
Зависит от способа реализации. А их много. Но, грубо говоря, сканирует все объекты начиная от "корней" (GC Roots), которые точно не могут быть удалены. Они помечаются как живые. Все остальные, удаляются. Поэтому производительность GC сильнее зависит от количества живых объектов, чем от тех, которые предстоит удалить. Удаление вообще скопом сразу множества объектов может быть произведено. Это, например, даёт серьезный прирост в производительности в сравнении с другими платформами, где объекты удаляются по одному. Но так же это и серьезная проблема для Java, где куча живых объектов более 4Гб приводит к серьезным тормозам.

Atum1А может быть такой способ чтобы у объекта был счетчик ссылок на него?
Этот?
http://en.wikipedia.org/wiki/Reference_counting
В Hotspot он не реализован. В IBM, JRockit, Dalvik, думаю, тоже.
Можно взять OpenJDK и попрообвать реализовать самостоятельно.
Вопрос только зачем?

Atum1Ну как я понимаю он реализован в gcc - и что мешает реализовать его в java ?
Неэффективность?
https://www.ibm.com/developerworks/library/j-jtp10283/

Atum1ведь в java уже есть атомарные переменные для инкрементации количества ссылок .
API и внутренняя реализация JVM это не одно и то же. Java GC не реализован на Java API.

Atum1альтернативный подход - реализован в линуксе , когда в объект записывается время удаления.
ОК

rfqСчетчи ссылок не позволяет обнаружить и освободить недоступные циклические структуры, а в яве они могут образовываться очень легко.
Это в простейшей реализации. Более сложные алгоритмы это решают.