Igor AbzalovPartisan MUbintu 11.04 давно вышло из употребления и нет смысла его использовать. Так что начать с поиска компьютера, на который можно установить PostgreSQL. Из Ubuntu можно рекомендовать версию 18.04. Самая старая версия, которую есть смысл использовать - 16.04. Но версии 18.10 и 19.04 подходят меньше, так как не имеют длительной поддержки. Впрочем, для изучения PostGreSQL (да и Linux заодно) подойдут и они.
Для изучения сгодится и ПК с Windows.

Установить PostgreSQL 11, установить pgAdmin4 (ставится вместе с PostgreSQL на сервер, но можно установить ещё и на клиентский компьютер), настроить PostgreSQL на приём запросов по сети (редактировать файл pp_hba.conf), убедиться, что работает и изучать.
Обзавестись книжками (их много на английском языке, а обширная документация на сайте PostgreSQL есть и на русском).

Правильно ли я понял, что на сегодня PostgreSQL более продвинутая СУБД, чем MySQL? После Oracle database как-то здесь всё не так кажется :)

Что лучше яблоки или апельсины. Вопрос в такой формулировке всетаки некорректен.
Вам и MSSQL покажется не таким после Oracle.
Postgresql ближе к Oracle по синтаксису и части функциональности чем MySQL а вот понятие продвинутости у каждого свое.

Igor AbzalovPartisan MIgor Abzalov,

Коммерческая поддержка по PostgreSQL доступна, в России и за рубежом, а также есть коммерческие курсы и сертификация.
Какие основные игроки по этой теме в России?

DataEgret и PostgresqlPro
(поскольку был явный запрос - я не вижу ничего плохого в публикации этой инфы).