Damir_85,

это действительно вопрос математический, что-то из раздела дискретной математики и аналитической геометрии.

За оптимальность не поручусь, но, по ощущениям, можно сделать так:
- представляем фигуру в виде конечного множества точек (вершин);
- строим выпуклую оболочку ( convex hull ), например, методом Quickhull, и далее работаем с ней, а не с исходной фигурой;
- выбираем стартовую вершину и направление обхода (т. е. порядок перебора граней);
- берём стартовое значение минимума ширины габаритной рамки как заведомо большое число.
Далее цикл:
- осуществляем поворот и параллельный перенос выпуклой оболочки таким образом, чтобы текущая вершина попадала в начало координат (или хотя бы на ось ординат), следующая вершина лежала на оси ординат (т. е. текущая грань лежала на оси ординат);
- вычисляем максимальное удаление остальных вершин выпуклой оболочки от оси ординат (максимум X по модулю). Это будет ширина габаритной рамки для текущей грани. Если эта ширина меньше текущего минимума ширины габаритной рамки, запоминаем её как минимум, запоминаем угол поворота;
- переходим к следующей вершине (и грани) в выбранном направлении обхода.

Короче, лабораторная работа для студента 3-го курса специальности "Прикладная математика".