Может формула есть какая? Или ссылки на статьи.

egorychа нарисовать на бумажке прямоугольник, оси координат и точку слабо?
Здесь я могу добавить кому слабо, можете не отвечать

Это не так легко как тебе кажется

Прямоугольник и точка находятся в N мерном пространстве, где N=2. Тут возникают проблемы когда стороны прямоугольника не параллельны(и не перпендикулярны) не одной оси(X и Y)

maytonКартежникПрямоугольник и точка находятся в N мерном пространстве, где N=2. Тут возникают проблемы когда стороны прямоугольника не параллельны(и не перпендикулярны) не одной оси(X и Y)
Берёшь одну из сторон прямоугольника за базис. Разворачиваешь прямоугольник относительно нуля координат так, чтобы базис был перпендикулярен оси ОХ (например). Для разворота используешь матрицу линейных преобразований. По этой-же матрице развернёшь точку. В новой системе координат решаешь тривиальную задачу типа x1<x<x2 и y1<y<y2.

Все понятно.Спасибо

zloy denПредставьте что прямоугольник-некая замкнутая область, состоящая из 4-х прямых. Тогда вам надо будет лишь определиться-находится ли точка в нужной для каждой прямой полуплоскости(все они направлены внутрь прямоугольника) или нет. Если хоть для одной из сторон условие не сработало, то точка находится снаружи. На листке бумаги было бы намного понятнее
P.S. чего-то вспомнились методы оптимизации
А как определить этот "внутрь"

zloy denНадо выбрать ту полуплоскость, в которой лежит противоположная сторона. Каждую сторону стоит изобразить в виде уравнения прямой, тогда коэффициент наклона у противоположных сторон будет одинаков, различаться они будут только сдвигом относительно оси х
А ну теперь понятно, можно даже и для разных многоугольников использовать

Все ОК

pirovindosЕсть еще пара способов, работают и для невыпуклых. Если ТС не хватило сказанного, то поделюсь.
Для невыпуклых тоже пригодятся

Еще тут кое что надумал. с заданой точки на 4 стороны отправить лучи. Каждый луч должен пересекать нечетное кол-во прямых заданного многоугольника.

pirovindos
2. Почитать количество пересечений со сторонами многоугольника любого луча из нужной точки . Если четное, то вне, если нечетное - то внутри. Осторожно: есть тонкости при попадании луча точно в вершину.
Ух ты повторил твою идею

pirovindosА зачем в 4 стороны?
Прямая многоугольника - это что?
В 4 стороны: допустим паралелные осям.
Прямая многоугольника(A,B,C,D,E- углы) - это AB,BC,CD,DE,EA

Я же говорю повторил твою идею