powered by simpleCommunicator - 2.0.49     © 2025 Programmizd 02
Форумы / Informix [игнор отключен] [закрыт для гостей] / Миграция с 9.5 на 11.50
25 сообщений из 54, страница 2 из 3
Миграция с 9.5 на 11.50
    #36987894
Фотография Daugava
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Ключ -X по идее должен вывернуть в какой-то формат ASCII символы <32, в том числе и #13#10. Судя по ошибке проблема действительно в DOS2UNIX (кстати она описана в FAQ-е).

При выгрузке через pipe перед компрессией можно вставить и dos2unix.
...
Рейтинг: 0 / 0
Миграция с 9.5 на 11.50
    #36987918
andjeo
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
DaugavaКлюч -X по идее должен вывернуть в какой-то формат ASCII символы <32, в том числе и #13#10. Судя по ошибке проблема действительно в DOS2UNIX (кстати она описана в FAQ-е).

При выгрузке через pipe перед компрессией можно вставить и dos2unix.

Я не совсем понимаю как выгрузить с windows в pipe =\
...
Рейтинг: 0 / 0
Миграция с 9.5 на 11.50
    #36987973
Фотография Daugava
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
С ftp://ftp.iiug.org/pub/informix/pub/ берется пакет SQLCMD от Jonnatan Leffler (версий там много). В нем есть утилита sqlonunload, она по дефолту выгружает в pipe.
...
Рейтинг: 0 / 0
Миграция с 9.5 на 11.50
    #36988420
zaiets
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Я не совсем понял - а зачем выгружать на винде?
Ведь можно выгрузить сразу на Линукс.
Т.е. развернув на линуксе IDS и через тот же dbaccess или другую тулзню выгрузить данные.

Кстати вопрос - скорость унлоада данных на 1Г если
запустить локально на винде и удаленно с линукса какая?
...
Рейтинг: 0 / 0
Миграция с 9.5 на 11.50
    #36988496
andjeo
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
zaietsЯ не совсем понял - а зачем выгружать на винде?
Ведь можно выгрузить сразу на Линукс.
Т.е. развернув на линуксе IDS и через тот же dbaccess или другую тулзню выгрузить данные.

Кстати вопрос - скорость унлоада данных на 1Г если
запустить локально на винде и удаленно с линукса какая?

а как быть с переносами строк внутри самих данных?
Основная засада в том, что внутри анлоадов попадаются переносы строк.
Анлоадом на Linux побеждаются концы срок.
...
Рейтинг: 0 / 0
Миграция с 9.5 на 11.50
    #36988501
victor16
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
zaietsЯ не совсем понял - а зачем выгружать на винде?
Ведь можно выгрузить сразу на Линукс.
Т.е. развернув на линуксе IDS и через тот же dbaccess или другую тулзню выгрузить данные.

Кстати вопрос - скорость унлоада данных на 1Г если
запустить локально на винде и удаленно с линукса какая?
В таком случае - зачем вообще выгружать в файлы? Почему нельзя сразу вставить данные оператором INSERT INTO <local_server> SELECT FROM <remote_server>. Насколько я знаю, в информиксе такой оператор выполняется как bulk-вставка, а не по одной записи. Таблицы можно создать как RAW без индексов, журналироваться они не будут, операторы можно выполнять параллельно. После получения копий данных можно будет запустить скрипт по созданию индексов, а если необходимо, изменить структуру базы данных.
Кстати, для получения копии можно попробывать ER-репликацию, если запустить cdr sync с достаточно большим буфером, можно достаточно быстро скопировать базу.
...
Рейтинг: 0 / 0
Миграция с 9.5 на 11.50
    #36988534
andjeo
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
victor16zaietsЯ не совсем понял - а зачем выгружать на винде?
Ведь можно выгрузить сразу на Линукс.
Т.е. развернув на линуксе IDS и через тот же dbaccess или другую тулзню выгрузить данные.

Кстати вопрос - скорость унлоада данных на 1Г если
запустить локально на винде и удаленно с линукса какая?
В таком случае - зачем вообще выгружать в файлы? Почему нельзя сразу вставить данные оператором INSERT INTO <local_server> SELECT FROM <remote_server>. Насколько я знаю, в информиксе такой оператор выполняется как bulk-вставка, а не по одной записи.

Это занимает слишком много времени.
...
Рейтинг: 0 / 0
Миграция с 9.5 на 11.50
    #36989285
zaiets
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Я задал вопрос. так как непонятно - что тормозит у вас вставку insert ... select
По идее, она на 100МБ даже не должна так тормозить как у вас при дефолтных настройках.
Если выгрузка в файл одинакова, значит что-то не так с вставкой
а это уже сужает поиск проблемы.
Можно еще локально и удаленно сравнить unload to <nul | /dev/null>
...
Рейтинг: 0 / 0
Миграция с 9.5 на 11.50
    #36989440
victor16
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
andjeovictor16INSERT INTO <local_server> SELECT FROM <remote_server>.

Это занимает слишком много времени.

А что тормозит? SELECT или INSERT?
...
Рейтинг: 0 / 0
Миграция с 9.5 на 11.50
    #36991073
andjeo
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
А возможен ли экспорт в tape, размера больше чем 2 гб?
...
Рейтинг: 0 / 0
Миграция с 9.5 на 11.50
    #36991196
Фотография Andron
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Я как то раз делал бэкап с помощью ontape при этом размер файла (в качестве TAPEDEV был указан файл на файловой системе) был примерно 200 Gb, а потом делал восстановление из такого бэкапа.
...
Рейтинг: 0 / 0
Миграция с 9.5 на 11.50
    #36991220
andjeo
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Кажется меня совсем проклинило, ключ -s 0 по идее меня спасет.
...
Рейтинг: 0 / 0
Миграция с 9.5 на 11.50
    #36991342
andjeo
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Нет, ключик -S не спасает =(
...
Рейтинг: 0 / 0
Миграция с 9.5 на 11.50
    #36991845
zaiets
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
andjeoПоследовательная загрузка заняла около 22 часов и была мной остановлена, т.к. за это время даже не начали переноситься самые крупные таблицы (от 20 до 46 Гб)


С коллегой общался, вспомнил про вас.
Вы учтите, что дефолтный pagesize на ваших платформах разный и если таблица на 46Гб
это 1 partnum на 46Г "реальных" данных - то переносить нужно если без фрагментации как минимум в пространство с размером страницы 4К либо сразу же фрагментируйте (если лицензия позволяет)
...
Рейтинг: 0 / 0
Миграция с 9.5 на 11.50
    #36991850
zaiets
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
andjeoА возможен ли экспорт в tape, размера больше чем 2 гб?
А с чего вы взяли что для вашей версии IDS ограничение в 2Г?
с 9.4 уже этого ограничения не было
...
Рейтинг: 0 / 0
Миграция с 9.5 на 11.50
    #36994406
andjeo
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Смонтировал диски нового сервера на старом. Создал fifo файл.
mkfifo tape
dos2unix < tape > tape1
Начал экспорт из виндовой базы в fifo.

dbexport dbname -cqX -ss -t m:\tape -b 16 -s 0 -f m:\dbname.sql < i:\keys

И все бы хорошо, но экспорт падает с ошибкой "Write tape failed".

В чем засада может быть?
Не справляется fifo?
...
Рейтинг: 0 / 0
Миграция с 9.5 на 11.50
    #36994411
andjeo
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
zaietsandjeoА возможен ли экспорт в tape, размера больше чем 2 гб?
А с чего вы взяли что для вашей версии IDS ограничение в 2Г?
с 9.4 уже этого ограничения не было

Это меня проклинило. Попробовал еще раз. С виндовой машины все нормально стало выгружаться.
...
Рейтинг: 0 / 0
Миграция с 9.5 на 11.50
    #36994614
andjeo
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Правильно ли я понимаю, что при записи на samba шару концы строк все равно будут виндовыми?
...
Рейтинг: 0 / 0
Миграция с 9.5 на 11.50
    #36994620
andjeo
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Вчера-сегодня прогнал dbimport. Результат не радует. На все ушло 22 часа.
Создание таблиц и загрузка данных примерно 14 часов. Создание индексов, процедур, констрейнтов- 8 часов.

Видимо надо явно тюнить новый сервер. Куда копать?
...
Рейтинг: 0 / 0
Миграция с 9.5 на 11.50
    #36994623
andjeo
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
zaietsandjeoПоследовательная загрузка заняла около 22 часов и была мной остановлена, т.к. за это время даже не начали переноситься самые крупные таблицы (от 20 до 46 Гб)


С коллегой общался, вспомнил про вас.
Вы учтите, что дефолтный pagesize на ваших платформах разный и если таблица на 46Гб
это 1 partnum на 46Г "реальных" данных - то переносить нужно если без фрагментации как минимум в пространство с размером страницы 4К либо сразу же фрагментируйте (если лицензия позволяет)


Большие таблицы фрагментируются.
...
Рейтинг: 0 / 0
Миграция с 9.5 на 11.50
    #36994625
andjeo
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
zaietsЯ задал вопрос. так как непонятно - что тормозит у вас вставку insert ... select
По идее, она на 100МБ даже не должна так тормозить как у вас при дефолтных настройках.
Если выгрузка в файл одинакова, значит что-то не так с вставкой
а это уже сужает поиск проблемы.
Можно еще локально и удаленно сравнить unload to <nul | /dev/null>

Сделаю в понедельник. Но кажется что тормозит все-таки Linux =\
...
Рейтинг: 0 / 0
Миграция с 9.5 на 11.50
    #36994707
Выбегалло
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
andjeoВчера-сегодня прогнал dbimport. Результат не радует. На все ушло 22 часа.
Создание таблиц и загрузка данных примерно 14 часов. Создание индексов, процедур, констрейнтов- 8 часов.

Видимо надо явно тюнить новый сервер. Куда копать?

Делать загрузку из файлов, в параллели. Выгрузку тоже. Выгрузить предварительно часть данных.

У меня в подобной ситуации были:
- stage0 - предварительная выгрузка данных, которые уже не могут быть изменены (таблицы самопального аудита) - выполняется вне окна миграции.
- stage1 - параллельная выгрузка остальных данных, я написал скриптец для анализа размеров таблиц и разбросал выгрузку на 5 потоков примерно одинакового объема.
- stage2 - drop / create database, параллельная загрузка данных, параллельный index build, навеска PK, FK, создание view, sequences, SP, triggers
- stage3 - сравнение с контрольной базой на другом сервере (slave из репликации)

Ну там и по мелочам - подобрать новые размеры начальных экстентов, индексы строить с fillfactor 80, разрешить PDQ для их строительства.
...
Рейтинг: 0 / 0
Миграция с 9.5 на 11.50
    #36995629
andjeo
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
ВыбегаллоandjeoВчера-сегодня прогнал dbimport. Результат не радует. На все ушло 22 часа.
Создание таблиц и загрузка данных примерно 14 часов. Создание индексов, процедур, констрейнтов- 8 часов.

Видимо надо явно тюнить новый сервер. Куда копать?

Делать загрузку из файлов, в параллели. Выгрузку тоже. Выгрузить предварительно часть данных.

У меня в подобной ситуации были:
- stage0 - предварительная выгрузка данных, которые уже не могут быть изменены (таблицы самопального аудита) - выполняется вне окна миграции.
- stage1 - параллельная выгрузка остальных данных, я написал скриптец для анализа размеров таблиц и разбросал выгрузку на 5 потоков примерно одинакового объема.
- stage2 - drop / create database, параллельная загрузка данных, параллельный index build, навеска PK, FK, создание view, sequences, SP, triggers
- stage3 - сравнение с контрольной базой на другом сервере (slave из репликации)

Ну там и по мелочам - подобрать новые размеры начальных экстентов, индексы строить с fillfactor 80, разрешить PDQ для их строительства.


То есть "Unload to <> Select * from" и "Load from <> insert into"?
Я изначально думал так делать, но в некоторых таблицах содержатся переводы строк, которые я не знаю как победить.

dbexport -X/dbimport -X от них избавил, но непонятно на какой фазе. На импорте или экспорте.
Внятного комментария о том как работает ключ -X я не нашел =\


Как можно избавиться от перевода строки в анлоад файле?
...
Рейтинг: 0 / 0
Миграция с 9.5 на 11.50
    #36995704
Фотография Журавлев Денис
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
andjeoКак можно избавиться от перевода строки в анлоад файле?В который раз читаю ваши стоны про конец строки, чувствую кто-то что не понимает. Опишите вашу проблему чуть подробнее типа:
1. на виндовом сервере выгружаю unload-м.
2. копирую на линукс по фтп (в режиме ascii), размер файла по понятным причинам уменьшается.
3. гружу load-м на линукс сервере.
4. вижу что концы строк исчезли/появились лишние? ААААААААААААА?!!!!
...
Рейтинг: 0 / 0
Миграция с 9.5 на 11.50
    #36995774
andjeo
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Журавлев ДенисandjeoКак можно избавиться от перевода строки в анлоад файле?В который раз читаю ваши стоны про конец строки, чувствую кто-то что не понимает. Опишите вашу проблему чуть подробнее типа:
1. на виндовом сервере выгружаю unload-м.
2. копирую на линукс по фтп (в режиме ascii), размер файла по понятным причинам уменьшается.
3. гружу load-м на линукс сервере.
4. вижу что концы строк исчезли/появились лишние? ААААААААААААА?!!!!

1. Делаю анлоад на винде.

2. Копирую на линукс,прогоняю через dos2unix,убирая концы строк.

3. Загружаю данные лоадом.
Данные не загружаются из-за того,что внутри данных есть переводы строки. Нажатия энтера в комментариях.
...
Рейтинг: 0 / 0
25 сообщений из 54, страница 2 из 3
Форумы / Informix [игнор отключен] [закрыт для гостей] / Миграция с 9.5 на 11.50
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]