Не являюсь спецом по сетевому оборудованию, но пытался с этим разобраться. Если речь идет об Ethernet, то IMHO практически нет

Задержка возникает:
1. при обработке прерываний
2. в стеке ОС при обработке TCP/IP

Для Intel сетевых карт есть эксперементальные опен-соурс драйвера с возможностью работать в режими пулинга (без прерываний). Как я понял, в свое время, это было реализовано на FreeBSD only - теперь ряд энтузиастов под эгидой Intel хотять вернуть обратно. Думаю, в этом режиме, можно достичь близких к теоретическому результатов.

Если критична задержка, лично я бы посоветовал смотреть на _профессиональное_ оборудование. Типа InfiniBand (и желательно не TCP/IP). Всякая подделка, типа 10G Ethernet, то же врят ли Вам поможет. IMHO

Ряд параметров драйверов/ОС/afinity для процесса-прерываний - могут помочь. Но, мне кажется, что это будет жесткий хардкор. Да и скорость до "теоретической" не дотянет.

Dimitry Sibiryakov1) Устанавливают между сервером приложений и СУБД более одного коннекта

Для _задержки_ (latency) ничем не поможет IMHO

Dimitry SibiryakovОбщую пропускную способность системы повысит.

Ну, а дальше, интересно сколько параллельных задач/пользователь нужно. Что бы задача "нехватает latency" решалась методом "повысит общую пропускную способность" да еще и с учетом 512 байтных пакетов?

IMHO не просто много, а _очень_ много.

В общем, совсем не то, о чем спрашивает автор. Но на его вопрос (да еще с учетом Windows), подозреваю ответ "почти никак". Ehernet и TCP/IP (конечно, возможно есть специализированные карточки, не знаю) это не та технология, которая оптимизирована для low-latency. При этом, AFAIK, что 1G Ethernet, что 10G Ethernet - масло масленое.
2) Помещают их на одну мощную машину;
3) Отказываются от сервера приложений вообще, сокращая одно звено в цепочке.

Тут полностью плюсуюсь
4) ПЛЮС нормальные системы, например Oracle, имеют такие понятие как:
bulk collect, fetch array, array size, fetch size и так далее
Т.е. возможно в рамках одного пакета, передавать сразу много записей. Что почти полностью убирает проблему latency на уровне локальной сети.

IMHO & AFAIK

Dimitry SibiryakovНу так кластера для однопользовательских систем и не собирают...

В какой стране? В России?
AFAIK Вы ошибаетесь ))) (не IMHO, а именно AFAIK ))) )

Dimitry Sibiryakov...так что, грубо посчитав, максимум 100 коннектов забьют весь...
Это в том случае, если толщина канала будет "узким горлышком". Стартовый пост заставляет в этом сомневаться ))).

Если сейчас узкое горлышко latency, подозреваю, при 100 коннектах это будет процессор (даже, скорее, не сам процессор, а PCI шина)

IMHO & AFAIK. А пофиг. Обработка прерываний. Изначальная ущербность Ethernet'а. Да и Windows радости не добавит.

Конечно могу ошибаться. Но тут все зависит от кривизны используемого приложения. Судя по тому, что возник вопрос и проблема - достаточно кривое. Нужно кривость приложения лечить (пакеты по 512 байт), а не из сети несуществующую "задержку близкую к теоретической" выжимать. IMHO

точнее Ethernet + TCP/IP + Windows

Пофиг. Могу ошибаться в терминологии, не специ по хардваре на таком уровне. Но IMHO все равно пофиг.

Есть они (прерывания), нет их. Что оно физическим проводником на кристал приходит, что через пакет на шине. Все равно и в том и в другом случае, кто за лов латенси бьется их биндят (или афинят?) их на конретные ядра. И в любом случае тормозит.

В общем пофиг. В милли/микро/нано и прочие секунды переводить не хочется. Абстрактные числа можно в Инете поискать. Вот когда топик стартер их добьется, да еще желательно не в сферической тестовой конфигурации, а на реальном/криво написанном приложении... тогда и можно говорить )))

IMHO проше приложение сделать нормальным. Что бы вместо 512 байтных пакетов, что то осмысленное по сети передавалось.
====
Вася Уткин, а с RSS в Windows сталкивался/разбирался? Вроде technet читал, но не фига не могу понять, почему поведение на практике отличается от алгоритма описанного на technet и как это можно отрейсить.

Вася Уткин....она не будет ниже 0.03 мкс (0.015 мкс в одну сторону).
По вики, мкс == микросекунда == 10 в -6 степени

0.03 мкс == 30 наносекунд? Как-то мне кажется перебор )))

Ну а что Вы хотели?

Сеть, задержка по сети. Что знал, уже написал. Практически настройкой сетевой карты, ОС и ковырянием приложения (???) скорость, скорее всего, можно в 2-4 раза повысить. Но это придел и при откачивание вакуума из сферического коня (главное, что бы при этом сам конь не сдулся и форму не потерял ))) ).

Дальше, только спец.железо и/или драйвера. IMHO & AFAIK