Согласен с maratka, что ближе всего из существующих форум "программирование".
Однако, проблема состоит в том, чтобы четко сформулировать математическую постановку задачи. Точнее, свести свою физическую задачу к математической.
Судя по опыту на данном сайте, пока формулировка остается "физической" наподобие той, которую привел Обогревъ "найти максимальное подмножество непересекающихся отрезков", такой топик скорее всего появится в том форуме, на каком инструментарии предпочитает работать автор. То, что топик появился здесь говорит о том, что Обогревъ в данном случае исключение.
Вот пример "математической" задачи с форума сиквела. Физическая задача при этом состояла в поиске подмножества проводок на заданную сумму.
О непересеающихся отрезках. Построим временную таблицу из двух полей Т(i,j). Таблица Т содержит запись (i,j), если i-й и j-й отрезки не пересекаются. Рассматривая Т как матрицу смежности графа, получаем максимальное подмножество непересающихся отрезков как максимальную компоненту связности данного графа. Алгоритмы поиска компонент связности графа следует искать в соответствующей литературе.

Сорри, поправочка к предыдущему посту. Связность тут не прокатит, т.к. никакая пара отрезков не должна пересекаться, а свойство пересечения нетранзитивно. Это задача о максимальной клике, которая относится к "самым трудным" из труднорешаемых задач.