Насколько я понимаю про винду, по-настоящему важно то, как настроен виндовый сервер - как сервер приложений, как файловый сервер или ещё пара вариантов. И если второй вариант, то обещано поведение "держать файловый кеш по-максимуму, а остальное агрессивно свопить". А вот если первый вариант, то по поводу файлового кеша можно не беспокоиться и сервисы из-за него высвопливаться не должны, а если будет нужна дополнительная память, то у файлового кеша отберут.

Было где-то в глубинах свойств сети (странное место), четыре кружочка:
"optimize for file server"
"optimize for network applications"
"balanced"
"что-то ещё".
И было это в Windows Server 2003. Что было после... я не в курсе, перестал винду администрировать.

Как бы то ни было, кеширование чего-либо - это само по себе не проблема. Проблемой оно становится, когда память отнимается у того, чему память нужнее. А чему память нужнее, винда догадаться едва ли может - в случае файлового сервера файловый кеш нужнее всего и приложения выпадают в своп, в случае sql-сервера файловый кеш куда менее нужен и приложения не должны выпадать в своп, а их запросы на выделение памяти должны выполняться в том числе за счёт файлового кеша, если свободной памяти нет в наличии. Таким образом, какие-то настройки должны быть; если не те, что я помню по Windows 2003 Server, то какие-то другие, но с тем же смыслом.