qi_ip,

Zabbix морально устарел, но на для старта вполне сгодится, ущербность его ГУИ и модели данных, скрасит факт того, что это коробочное решение совмещающее сбор, хранение, визуализацию и алертинг, а следственно с ним старт с чистого листа будет быстрее, нежели собирать все эти компоненты из отдельных частей.

Также задумайтесь о том, что помимо базовой телеметрии предоставляемой JVM, Вам нужно будет собирать информацию и о бизнесс операциях типо число транзакий, их частоту, число зафейлиных запросов, гистограммы с латенси по отдельным бизнесс операциям. То есть данные первичное накопление которых по большой части, вам придётся реализовывать самотоятельно, чтобы не начинать с чистого листа, можно делать это на основе библиотек для мониторинга например Dropwizard Metrics или Micrometer.