Undefined Behavior или Unspecifi,

оба

Оптимизируется не сам UB, а остальные случаи.

Поясню на примере.

Например разыменование NULL-указателя - это undefined behavior.
Если бы язык описывал, что нужно сделать в этом случае, то на процессорах, где нет защиты памяти, перед каждым доступом по указателю пришлось бы проверять указатель на 0.
Это дополнительный оверхед, при том что в корректной программе 0-указатель и так не должен разыменовываться.
Поэтому в стандарте это UB, чтобы компилятор не должен был проверять указатели перед обращением.
unspecified behavior - это тоже самое, только вид в профиль (результат также непереносим).

Буст тут вообще не причем.