Алексей КnetivanМСУ,
разница в том делать тыщу раз (ID=x and ID=x2) OR и так 1000 раз и 10 секунд или делаешь JOIN и получаешь 1 секунду.

1000 простых запросов вида select * from T where X=@x and Y=@y выполняться будут тоже порядка секунды. А то и быстрее, если сетевой пинг позволит + запустить их одновременно асинхронно.

зы: Почему данных, с которыми нужно джойнить, нет в базе? Может с архитектурой что-то не так?

Часто по производительности бывает выгоднее выполнить сложный запрос в несколько приемов, поджоинив результат предыдущего запроса с данными таблиц БД (или с результатами других запросов). В ХП обычно это реализуется путем сохранения промежуточных данных в табличных переменных или во временных таблицах. Проблема невозможности замэпить сущность EF на временную таблицу решается созданием в БД синонима для временной таблицы


и мэппингом сущности на синоним.
Результат предыдущего запроса (или любые другие данные в виде коллекции объектов) заливается во временную таблицу через SqlBulkCopy, после чего эти данные можно далее использовать в запросах Linq2Entity. Таким же образом можно использовать для дальнейшего анализа в запросах LINQ данные, полученные в результате исполнения ХП или ExecuteStoreQuery().

В моих разработках я предпочитаю использовать временную таблицу универсальной структуры (несколько Guid-ов, несколько Int-ов и т.д.). Кроме того, в этой таблице есть Id раздела, позволяющий хранить несколько наборов данных. API, развернутое вокруг этой таблицы позволяет описать ее разделы в виде типизированных сущностей, создавать эту таблицу (при этом реально создаются не все возможные, а только описанные в разделах поля + поле Id раздела), заполнять разделы этой таблицы из типизированных коллекций, формировать запросы к разделам в виде IQueryable<TPartitionEntity>, где TPartitionEntity - тип сущности, связанный с разделом.

Этот подход позволяет в ряде случаев во много раз ускорить сложные расчеты, аналогично разбиению сложных T-SQL на несколько более простых в ХП, но при этом реализовывать бизнес-логику через типизированные запросы LINQ.