AYTereschenkoПриложение - это jar-файл плюс набор jar'ов с зависимыми библиотеками. Где в linux принято обычно размещать jar-файлы, в какой папке?
Я скаченные приложения opt размещаю (что серверные, что декстоп).
http://en.wikipedia.org/wiki/Filesystem_Hierarchy_Standard - вот, то что вы ищете. Но имейте ввиду, что еще есть особенности дистрибутивов.

AYTereschenkoА если приложение будет еще какие-то свои файлы создавать в процессе работы, например sqlite-базу, то где такие файлы обычно размещают?
Если это серверное приложение, с которым будет работать админ, правильней всего задать папку в настройках. Например, через переменные окружения.

Пользовательские приложение обычно используют скрытую папку в домашнем каталоге:
System.getProperty("user.home")+".myapp/";

http://docs.oracle.com/javase/tutorial/essential/environment/sysprop.html