powered by simpleCommunicator - 2.0.61     © 2026 Programmizd 02
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Форумы / ADO.NET, LINQ, Entity Framework, NHibernate, DAL, ORM [игнор отключен] [закрыт для гостей] / Проверка дубликатов при импорте
4 сообщений из 4, страница 1 из 1
Проверка дубликатов при импорте
    #34581179
Slaven
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Задача такая - перенести данные из таблицы-источника одний СУБД в целевую таблицу другой СУБД, не создав при этом записей-дубликатов в целевой таблице. проверка проходит по совокупности столбцов.

Пробовал выгружать источник и целевую таблицу в DataTable и сравнивать каждую запись источника со всей целевой таблицей....получается очень долго (в источнике и целевой таблицах по миллиону записей). Использовал и DataTable.Select и DataTable.Rows.Find и foreach. (Очень удивился, когда Select отработал медленнее, чем foreach).

Пробовал делать запрос в БД на импорт каждой записи из источника, что получилось не быстрее, чем первый вариант.

Как можно еще ускорить процесс переноса?
...
Рейтинг: 0 / 0
Проверка дубликатов при импорте
    #34581245
winsky!
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
СУБД какая?
...
Рейтинг: 0 / 0
Проверка дубликатов при импорте
    #34581434
Tassadar77
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Если проверка на повтор осуществляется по совокупности столбцов, то можно создать хеш-таблицу, у которой в качестве ключей будет сумма всех значений полей результирующей таблицы, приведенной к типу string. Далее при добавлении нужно использовать метод HashTable.ContainsKey(object Key).
Этот метод работает очень быстро и вся операция займет всего два цикла.
...
Рейтинг: 0 / 0
Проверка дубликатов при импорте
    #34581447
winsky!
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
когда ж вы, велосипедостроители повыведетесь уже...
Код: plaintext
1.
select distinct bla1, bla2 from table
...
Рейтинг: 0 / 0
4 сообщений из 4, страница 1 из 1
Форумы / ADO.NET, LINQ, Entity Framework, NHibernate, DAL, ORM [игнор отключен] [закрыт для гостей] / Проверка дубликатов при импорте
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]