В принципе, может вообще не повыситься. Всё зависит от того, насколько утилизирован первый. Да и загрузка системной и SCSI шины тоже может сделать бессмысленной установку дополнительного камня. Однако, в большинстве случаев, особенно когда кроме SQL сервера железо несёт и другие приложения, это может весьма благоприятно сказаться на производительности, особенно за счёт выделения СУБД своего камня. Точно также, большую пользу добавление процессоров даёт в многопользовательской среде, за счёт распараллеливания задач. В общем, на самом деле это предмет отдельного исследования, точно так же, как для автомобиля второй мотор (или четвёртый мотор), второй процессор может не принести пользы, в смысле производительности, но ЗАТО, если один камень прикажет долго жить, вам не придётся останавливать сервер, на то время, пока Вы будете бегать в магазин за новым процессором.
Отвечая же на вопрос, скажу, что часто производительность растёт почти линейно. И чем дальше, тем больше процессоров могут давать прирост производительности, сооразмеримый с их тактовой частотой и размером кэша.

sorgery < Я имел ввиду хорошо сбалансированную систему, которой есть чем загрузить дополнительный процессор. А со словом "линейно" - согласен, нужно было его взять в кавычки (из соображений арифметики).
Моя практика показывает, что для двухпроцессорного варианта, лучше разделить процессоры между ОС и СУБД. Для 4-х процессорного, 1 - для ОС, остальные для СУБД. В любом случае, всё это надо исследовать с помощью Perforamce Monitor. Во первых, что бы не стрелять из пушки по воробъям, а во вторых, что бы точно знать, где у Вас узкие места и уже на основании этого знания принимать решение о масштабировании.