powered by simpleCommunicator - 2.0.50     © 2025 Programmizd 02
Форумы / MySQL [игнор отключен] [закрыт для гостей] / Как отсортировать 1 миллиард записей?
25 сообщений из 336, страница 10 из 14
Как отсортировать 1 миллиард записей?
    #40036578
Фотография miltorg
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
вадя,

2 раз пишу. Там 5 тысяч строк - поэтому никаких тормозов там нет.
5 тысяч строк обработать 1 раз.
...
Рейтинг: 0 / 0
Как отсортировать 1 миллиард записей?
    #40036579
вадя
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
miltorg
2 раз пишу. Там 5 тысяч строк - поэтому никаких тормозов там нет.
5 тысяч строк обработать 1 раз.
откуда тогда слухи про 1 000 000 000?
1 строку сравнить с 4999 строк
2 - с 4998строк
3 - с 4997 ...
.....
...
Рейтинг: 0 / 0
Как отсортировать 1 миллиард записей?
    #40036580
Фотография miltorg
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
вадя,

упс. А вы и тему не читали.
...
Рейтинг: 0 / 0
Как отсортировать 1 миллиард записей?
    #40036581
вадя
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
miltorg
упс. А вы и тему не читали.
дак тебе надо найти все совпадения
...
Рейтинг: 0 / 0
Как отсортировать 1 миллиард записей?
    #40036582
Фотография miltorg
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
miltorg,

Напишу в 4 раз. Задача полностью решена. Полностью. От начала и до самого конечного конца. Все скорости - меня устраивают.

Что я хочу сейчас? - Проверить своё решение. Как?

Искусственное добавление строки делал - всё работает правильно и хорошо.
...
Рейтинг: 0 / 0
Как отсортировать 1 миллиард записей?
    #40036583
Фотография miltorg
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
вадя,

Постановка задачи гордо висит на первой странице. Повторю:

22260460
...
Рейтинг: 0 / 0
Как отсортировать 1 миллиард записей?
    #40036584
вадя
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
miltorg
Напишу в 4 раз. Задача полностью решена. Полностью. От начала и до самого конечного конца. Все скорости - меня устраивают.
тебе предлагают перейти на уровень выше - овладеть большими знаниями.
ты говоришь - проверить своё решение, и говоришь что что я не читал..
добавляешь одну строку - и ищешь совпадение с уже имеющимися...
не кажется что у тебя куча противоречий?
...
Рейтинг: 0 / 0
Как отсортировать 1 миллиард записей?
    #40036585
вадя
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
miltorg
Постановка задачи гордо висит на первой странице. Повторю:
значит ты сам не понял своей задачи
...
Рейтинг: 0 / 0
Как отсортировать 1 миллиард записей?
    #40036586
Фотография Alex_Ustinov
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
mayton,

я так глубоко не полез, там вроде было нормальное обсуждение
...
Рейтинг: 0 / 0
Как отсортировать 1 миллиард записей?
    #40036587
вадя
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
miltorg,

авторИз каждой строчки берётся 10 цифр и из них делаются не повторяющиеся комбинации:
не повторяющиеся с чем
первая строка не должна повторяться со 2 по 5000
вторая - с 3 по 5000
так?
...
Рейтинг: 0 / 0
Как отсортировать 1 миллиард записей?
    #40036588
Фотография miltorg
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
miltorg,

Идея решения:

22260870
...
Рейтинг: 0 / 0
Как отсортировать 1 миллиард записей?
    #40036591
вадя
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
miltorg,

твоя идея не правильная - надо сравнивать все строки - рекурсивно
а это долго,
тебе предложили бинарное сравнение
...
Рейтинг: 0 / 0
Как отсортировать 1 миллиард записей?
    #40036592
Фотография miltorg
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Просили выложить исходную таблицу. Выложил часть таблицы:

22264235
...
Рейтинг: 0 / 0
Как отсортировать 1 миллиард записей?
    #40036593
вадя
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
вадя
miltorg,

твоя идея не правильная - надо сравнивать все строки - рекурсивно
а это долго,
тебе предложили бинарное сравнение

можно сократить - убирать уже совпадшие строки - но это переписывать в новый массив
это все можно сделать в sql - используя хранимку
...
Рейтинг: 0 / 0
Как отсортировать 1 миллиард записей?
    #40036594
Фотография miltorg
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Выложил результат работы 1 части программы - Поиск тех самых дубликатов чисел в стоках. Где они больше 9:

22264236
...
Рейтинг: 0 / 0
Как отсортировать 1 миллиард записей?
    #40036595
вадя
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
miltorg
Просили выложить исходную таблицу. Выложил часть таблицы:
вот ты думаешь кто-то будет из текстового делать таблицу?
ddl таблицы (уже выложил - это +) ну и скрипт для заполнения таблицы - тогда будут варианты,
а пока тебе предлагают с 4 числами как идею для реализации
...
Рейтинг: 0 / 0
Как отсортировать 1 миллиард записей?
    #40036596
Фотография miltorg
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
И там дальше пошаговый результат с выводом каждого шага.
То есть всё описано подробнейшим образом.
Кто не понял - я не виноват.
...
Рейтинг: 0 / 0
Как отсортировать 1 миллиард записей?
    #40036597
вадя
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
miltorg
Поиск тех самых дубликатов чисел в стоках.
поиск дубликатов -- вот о чём я и говорил тут
вадя
откуда тогда слухи про 1 000 000 000?
1 строку сравнить с 4999 строк
2 - с 4998строк
3 - с 4997 ...
.....
...
Рейтинг: 0 / 0
Как отсортировать 1 миллиард записей?
    #40036598
вадя
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
miltorg,

у тебя может совпасть 4999 строка с 5000 строкой
...
Рейтинг: 0 / 0
Как отсортировать 1 миллиард записей?
    #40036599
Фотография miltorg
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
вадя,

Строки полностью сейчас не совпадают. - максимум 12 совпадений чисел в строке. - Это отображено в примере.
...
Рейтинг: 0 / 0
Как отсортировать 1 миллиард записей?
    #40036600
Фотография miltorg
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
На сколько я понял - это движения чего-то в чём-то

И детали изготавливаются разные. - Поэтому полные совпадения - это брак.
...
Рейтинг: 0 / 0
Как отсортировать 1 миллиард записей?
    #40036601
вадя
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
miltorg
Строки полностью сейчас не совпадают. - максимум 12 совпадений чисел в строке. - Это отображено в примере.
какая разница?
тебе всё равно надо произвести сравнение одно строки со всеми (если в лоб)
или так
вадя
1 строку сравнить с 4999 строк
2 - с 4998строк
3 - с 4997 ...
.....

или так
вадя
можно сократить - убирать уже совпадшие строки - но это переписывать в новый массив

но это если искать совпадение по всем значениям

если искать совпадение по части - то надо сравнивать каждую строку со всеми 4999

потому как 9 совпадений может быть частью из совпадений , где совпадают 12 чисел
число совпадений при бинарном - есть величина
BIT_COUNT()
BIT_COUNT(b'101001001' & b'001001110') = 2
...
Рейтинг: 0 / 0
Как отсортировать 1 миллиард записей?
    #40036604
вадя
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
miltorg,

тебе нужно произвести 5000*4999 сравнений с подсчётом числа совпадений
...
Рейтинг: 0 / 0
Как отсортировать 1 миллиард записей?
    #40036608
Фотография Alex_Ustinov
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
похоже так и делается, если мы уже не говорим о миллиарде,
только вместо BIT_COUNT используется своя функция сравнения строк на вхождение чисел.
Цикл 1..99 на вхождение чисел в сравниваемые строки и подсчет (и откладывание) совпадений (тоже можно задать параметром).
Имеет право на жизнь.
Только что там проверять, если проверяется экспериментальными наборами, причем из любого количество чисел в строках.
...
Рейтинг: 0 / 0
Как отсортировать 1 миллиард записей?
    #40036613
Фотография mayton
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Alex_Ustinov
mayton,

я так глубоко не полез, там вроде было нормальное обсуждение

Я не об этом. Пятничные топики часто носят характер развлекательных.
Трудовая неделя закончилась. Можно и отдохнуть. Это - давняя традиция которая возникла
на скруле еще задолго до того как я создал первый пятничный.

Возможно Милторг не имел в виду ничего серъезного. Но все так возбудились...
...
Рейтинг: 0 / 0
25 сообщений из 336, страница 10 из 14
Форумы / MySQL [игнор отключен] [закрыт для гостей] / Как отсортировать 1 миллиард записей?
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]