Hett,

мне известны 3 веб-проекта с нагрузкой свыше 1000 активных одновременных пользователей в системе, 2 из них на нашем приложении
и все они закрытые, т.е. используются для нужд организации

горизонтальное масштабирование возможно
в каше есть такая вещь как ECP
ECP- позволяет распределить физическое хранение данных на разных серверах, либо распределенное выполнение кода с данным на одном или нескольких серверах

не стоит забывать отличительную особенность Cache от всех других субд, это то что приложение можно писать на языке COS (cache object script), получая наиболее быстрый доступ к данным насколько это возможно, код приложения храниться в БД на том же сервере

и все таки не стоит сравнивать приложения уровня одноклассников и то что например у нас (Система электронного документооборота). для приложения для массовой аудитории характерны довольно простые запросы с данным на сервере, самое сложное это может быть чат. а вот для корпоративного приложения, есть много работы со стороны сервера, который выполняет много логики приложения. расчеты, синхронизации с внешними системами, движение документов.
на наших проектах используется 4 сервера, 1 из них ECP-сервер, и 3 ECP-клиенты. ECP-сервер, является основным к которому подключены основные БД, которые расшариваются на ECP-клиенты. на ECP-клиенты и распределяются запросы от пользователей. на каждом ECP-клиенте используется свои бд для временных буферов, а основные данные берутся с ECP-сервера.

полагаю высказался несколько сумбурно, но надеюсь хоть что то понятно. что-то непонятно, спрашивайте отвечу.

да, и для безотказности, есть зеркалирование БД, которое копирует все изменения в данных на неактивный сервер
с использованием агента который будет следить за состоянием активного и зеркального сервера, может быстро переключить работу на рабочий сервер.