ModelR
5 НФ поглощает 2, 3НФ (НФБК) и 4НФ. Поэтому определение 5НФ - универсальная формулировка, не ссылающаяся на них. На самом деле шагов до 5НФ два:
1НФ - таблица плоская,
5НФ -

НФБК - имеет проблемы с навязыванием F-зависимостей схеме с помощью выделения ключей, в отличии от 3НФ. Поэтому проектировщик стоит перед выбором ограничения целостности декларативным способом или подавление избытка с помощью НФБК.

Проверка свойств НФБК для заданной схемы является NP - полной задачей.

В литре иногда упоминается, что и в 5НФ могут быть скрытые аномалии. И приводится упоминание Доменно-ключевой нормальной формы ДКНФ (Фагин, 1981) R.Fagin "A Normal Form for Relation Databases That Is Based On Domain and Keys" ACM Transactions on Database System, сентябрь 1981, с.387-415
Это форма лишена всех аномалий,
но не известен ни один алгоритм приводящий к ДКНФ.

На практике, скорее всего, во многих задачах схема в 3НФ, скорее всего удовлетворяет и остальным формам. Зато если схема не находится в 3НФ - это достаточно заметно.

Так или иначе, часто от СУБД рекомендуется тока нормализация до 3НФ. И это вроде ответ на какой-то экзаменационный вопрос от MS. По моему по Аксцессу, но возможно и по Скулю.

А ведь есть еще денормализации.

Скорее всего критериев самой оптимальной схемы не найдено. И все зависит от искусства проектировщика. И в общем случае он может без знания теории и нормальных форм налабать схему, такую же по оптимальности, как другой с помощью теории.