powered by simpleCommunicator - 2.0.59     © 2025 Programmizd 02
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Форумы / Другие СУБД [игнор отключен] [закрыт для гостей] / OpenLink Virtuoso и RDF --- надо ли это и это ли надо?
25 сообщений из 94, страница 3 из 4
OpenLink Virtuoso и RDF --- надо ли это и это ли надо?
    #37359928
Фотография iv_an_ru
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
MBGiv_an_ruMBG,

целые в Виртуозе --- 64-битные. Если надо сохранить и незначащие нули, либо различать 12.3e0 и 1.23e1 --- храните строки, но тогда разумно сделать "рядышком" ещё один предикат, который будет хранить число, для поиска по диапазонам.

А что мешает динамическую типизацию сделать? Скажем, загружу я в виртуозу телефонный справочник, так подавляющее множество номеров окажется числами, но некоторые - строками и по ним поиск работать не будет, как это юзерам объяснять, интересно...Куда уж динамичней --- объекты и так валяются в колонке типа ANY :) Но принцип "garbage in --- garbage out" соблюдается свято --- весь мусор аккуратно складируется "как есть". Если что не находится из-за несоответствия типов, то пусть хозяин мусора решает --- то ли статически мусор нормализовать раз и навсегда, то ли в запросы втыкать приведения типов.
...
Рейтинг: 0 / 0
OpenLink Virtuoso и RDF --- надо ли это и это ли надо?
    #37359940
MBG
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
MBG
Гость
iv_an_ruЕсли что не находится из-за несоответствия типов, то пусть хозяин мусора решает --- то ли статически мусор нормализовать раз и навсегда, то ли в запросы втыкать приведения типов.

Как нормализовать номера 003 и 333?
...
Рейтинг: 0 / 0
OpenLink Virtuoso и RDF --- надо ли это и это ли надо?
    #37359968
Фотография iv_an_ru
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
MBG,

Если надо отличать 003 от +003, 03 и 3, то никак. Пусть строками и лежат.
...
Рейтинг: 0 / 0
OpenLink Virtuoso и RDF --- надо ли это и это ли надо?
    #37360072
MBG
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
MBG
Гость
iv_an_ru,

Было бы здорово добавить текст ошибочной записи к сообщению
"You have attempted to upload invalid data. You can only upload RDF, Turtle, N3 serializations of RDF Data to the RDF Data Store.
". А то делением на 2 файла на 8 мегафактов искать очень уж муторно.
...
Рейтинг: 0 / 0
OpenLink Virtuoso и RDF --- надо ли это и это ли надо?
    #37360128
Фотография iv_an_ru
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
MBG,

Попробуйте загрузить из консоли, и получите сразу номер строки с ошибкой.
Либо, как вариант, неверно определился формат файла, или не определился вовсе.
...
Рейтинг: 0 / 0
OpenLink Virtuoso и RDF --- надо ли это и это ли надо?
    #37360130
MBG
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
MBG
Гость
iv_an_ru,

Я ее все же убил... Умерла виртуоза на странице
http://localhost:8890/conductor/rdf_import.vspx

В dmesg:
Код: plaintext
1.
[ 404741 . 127590 ] Out of memory: Kill process  23359  (virtuoso-t) score  336  or sacrifice child
[ 404741 . 127609 ] Killed process  23359  (virtuoso-t) total-vm:1572540kB, anon-rss:999136kB, file-rss:0kB

Тестовая машинка (нетбук):

Код: plaintext
1.
2.
3.
4.
5.
6.
7.
8.
$ uname -a
Linux veter-eeepc  2 . 6 . 38 - 2 - 686  # 1  SMP Sun May  8   14 : 49 : 45  UTC  2011  i686 GNU/Linux

$ free
             total       used       free     shared    buffers     cached
Mem:        2065132      1028420      1036712            0         2396       166868 
-/+ buffers/cache:      859156      1205976 
Swap:       2097148      1547464       549684 

Тестовый файл чуть меньше 300 Мб и чуть маньше 10 мегафактов.
...
Рейтинг: 0 / 0
OpenLink Virtuoso и RDF --- надо ли это и это ли надо?
    #37360142
MBG
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
MBG
Гость
Теперь веб-интерфейс пароля не узнает, а в консоли наоборот - перестал запрашивать пароль dba для команды DB.DBA.RDF_GLOBAL_RESET().
...
Рейтинг: 0 / 0
OpenLink Virtuoso и RDF --- надо ли это и это ли надо?
    #37360145
MBG
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
MBG
Гость
И даже удалось угадать пароль - теперь он "dba". До крэша был другой.
...
Рейтинг: 0 / 0
OpenLink Virtuoso и RDF --- надо ли это и это ли надо?
    #37360151
Фотография iv_an_ru
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
MBG,

Может вы тогда всё же успешно снесли файлы сервера, просто не остановили его перед этим, и он успешно крутился в памяти до тех пор, пока не полез на диск за чем-то исчезнувшим?
...
Рейтинг: 0 / 0
OpenLink Virtuoso и RDF --- надо ли это и это ли надо?
    #37360157
Фотография iv_an_ru
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Кстати, NumberOfBuffers сколько стоит?
http://www.openlinksw.com/dataspace/dav/wiki/Main/VirtConfigScale
...
Рейтинг: 0 / 0
OpenLink Virtuoso и RDF --- надо ли это и это ли надо?
    #37360159
MBG
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
MBG
Гость
iv_an_ruMBG,

Может вы тогда всё же успешно снесли файлы сервера, просто не остановили его перед этим, и он успешно крутился в памяти до тех пор, пока не полез на диск за чем-то исчезнувшим?

Возможно. Я как-то привык, что aptitude purge пакет сносит вместе с конфигами и, разумеется, останавливает всех демонов. Почему после такого удаления при повторной установке пароль не запросило - загадка, что-то в скриптах деб-пакета не так. Тем паче, самостоятельное появление другого пароля дело неправильное.
...
Рейтинг: 0 / 0
OpenLink Virtuoso и RDF --- надо ли это и это ли надо?
    #37360161
MBG
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
MBG
Гость
iv_an_ruКстати, NumberOfBuffers сколько стоит?
http://www.openlinksw.com/dataspace/dav/wiki/Main/VirtConfigScale

Совершенно ничего не трогаю, мучаю установку по умолчанию. Имхо оно может быть непроизводительно, но обязано быть стабильно.
...
Рейтинг: 0 / 0
OpenLink Virtuoso и RDF --- надо ли это и это ли надо?
    #37360167
Фотография iv_an_ru
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
MBG,

Obey Arthur Lee сделал самый первый package нормально, потому что один, а потом ему явно стали "помогать". В итоге проще и надёжней из сорцов поставить :)
...
Рейтинг: 0 / 0
OpenLink Virtuoso и RDF --- надо ли это и это ли надо?
    #37360207
MBG
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
MBG
Гость
iv_an_ruMBG,

Obey Arthur Lee сделал самый первый package нормально, потому что один, а потом ему явно стали "помогать". В итоге проще и надёжней из сорцов поставить :)

Это бывает... Только из сырцов не ставим-с, опакечиваем и в свой репозиторий кладем, ибо нефиг ;) Но класть туда виртуозу я пока морально не готов :) Может, вы ее в своем репозитории держите?
...
Рейтинг: 0 / 0
OpenLink Virtuoso и RDF --- надо ли это и это ли надо?
    #37360213
Фотография iv_an_ru
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
MBGiv_an_ruMBG,

Obey Arthur Lee сделал самый первый package нормально, потому что один, а потом ему явно стали "помогать". В итоге проще и надёжней из сорцов поставить :)

Это бывает... Только из сырцов не ставим-с, опакечиваем и в свой репозиторий кладем, ибо нефиг ;) Но класть туда виртуозу я пока морально не готов :) Может, вы ее в своем репозитории держите?
Лично я ничего не инсталлирую :) На данный момент на моей личной машине 14 разных деревьев закрытых версий плюс 11 открытых. Я использую их прямо из деревьев, я не могу себе позволить тратить время ещё и на переустановки.
...
Рейтинг: 0 / 0
OpenLink Virtuoso и RDF --- надо ли это и это ли надо?
    #37360256
MBG
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
MBG
Гость
iv_an_ruЛично я ничего не инсталлирую :) На данный момент на моей личной машине 14 разных деревьев закрытых версий плюс 11 открытых. Я использую их прямо из деревьев, я не могу себе позволить тратить время ещё и на переустановки.

Да, верю :) А что у вас по умолчанию делается при совпадении идентификаторов - новый факт игнорируется, добавляется повторно, перезаписывается или выдается ошибка? Особенно это интересно в плане распределенной работы.
...
Рейтинг: 0 / 0
OpenLink Virtuoso и RDF --- надо ли это и это ли надо?
    #37360267
Фотография iv_an_ru
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
MBGiv_an_ruЛично я ничего не инсталлирую :) На данный момент на моей личной машине 14 разных деревьев закрытых версий плюс 11 открытых. Я использую их прямо из деревьев, я не могу себе позволить тратить время ещё и на переустановки.

Да, верю :) А что у вас по умолчанию делается при совпадении идентификаторов - новый факт игнорируется, добавляется повторно, перезаписывается или выдается ошибка? Особенно это интересно в плане распределенной работы.Если при добавлении все четыре поля совпали с уже имеющимся фактом, то тихий игнор. Многократное повторение общеизвестного факта не является ошибкой.
...
Рейтинг: 0 / 0
OpenLink Virtuoso и RDF --- надо ли это и это ли надо?
    #37360278
MBG
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
MBG
Гость
iv_an_ru,

Логично. Если удастся придумать уникальные идентификаторы каждому факту. А расширения виртуозы делают случаем не для того, чтобы substr и проч. функции получить (оказывается, стандарт sparql пока страдает отсутствием многого необходимого)?
...
Рейтинг: 0 / 0
OpenLink Virtuoso и RDF --- надо ли это и это ли надо?
    #37360285
Фотография iv_an_ru
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
1. Идентификаторы фактам нужны крайне редко, и обеспечиваются реификацией.
2. SPARQL 1.1 существенно толще SPARQL 1.0, необходимое будет отсутствовать менее заметно ;) SPARQL 1.0 предустматривает доступность XPATH/XQuery Function Library, там сколько-то функций всё же есть. Другое дело, что их никто не просил, поэтому я добавил в SPARQL их поддержку только на прошлой неделе, и она ещё не доползла до Virtuoso Open Source.
...
Рейтинг: 0 / 0
OpenLink Virtuoso и RDF --- надо ли это и это ли надо?
    #37360318
MBG
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
MBG
Гость
iv_an_ru2. SPARQL 1.1 существенно толще SPARQL 1.0, необходимое будет отсутствовать менее заметно ;) SPARQL 1.0 предустматривает доступность XPATH/XQuery Function Library, там сколько-то функций всё же есть. Другое дело, что их никто не просил, поэтому я добавил в SPARQL их поддержку только на прошлой неделе, и она ещё не доползла до Virtuoso Open Source.

Обойтись можно, но раз добавили, будет существенно более user-friendly. Я вот себе набросал отчетик по поисковым запросам по логу вебсервера, так хотелось бы сразу увидеть не URL с параметрами, а только сам текст запроса (для меня-то и так сойдет, а вот если кому показывать).

Из консоли кстати 10М фактов загрузились нормально, выборки шустрые. Ну да я еще проверю, сколько можно на нетбуке фактов хранить/обрабатывать - такой стресс-тест, а для дела интересует работа в облаке на множестве ядер - открытая версия умеет распараллеливать запрос по всем ядрам?
...
Рейтинг: 0 / 0
OpenLink Virtuoso и RDF --- надо ли это и это ли надо?
    #37360323
Фотография iv_an_ru
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
MBGдля дела интересует работа в облаке на множестве ядер - открытая версия умеет распараллеливать запрос по всем ядрам?Обработка внутри запроса не распараллеливается. Хоть Virtuoso и бегает при необходимости на чём попало, "в душе" это всё же миддлварная СУБД, на которую при использовании по прямому назначению валится куда больше одновременных запросов, чем на любой матплате стоит ядер :) В Virtuoso/PL есть средства распараллельвания ( http://docs.openlinksw.com/virtuoso/ASYNCEXECMULTITHREAD.html ), но внутрь отдельного запроса они не лезут.
...
Рейтинг: 0 / 0
OpenLink Virtuoso и RDF --- надо ли это и это ли надо?
    #37360327
MBG
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
MBG
Гость
iv_an_ru,

А я пока для замены скриптов разных рассматриваю, мне много запросов не надо :) Вот как разберусь получше, там видно будет.

Огромное вам спасибо за море информации и подсказок, узнал много нового и теперь могу комфортно решить некоторые задачки по анализу разнородных данных, до которых руки не доходили или выковыривал нужное пачкой скриптов.
...
Рейтинг: 0 / 0
OpenLink Virtuoso и RDF --- надо ли это и это ли надо?
    #37360344
Фотография iv_an_ru
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
MBGА я пока для замены скриптов разных рассматриваю, мне много запросов не надо :)Если утрясут ТЗ, то будет версия для мобильников, вот в ней, как ни забавно, будет распараллеливание одиночного запроса по ядрам. У мобилы юзер один, а ядер даже сейчас бывает два, будет и больше :)
...
Рейтинг: 0 / 0
OpenLink Virtuoso и RDF --- надо ли это и это ли надо?
    #37360872
MBG
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
MBG
Гость
iv_an_ruЕсли утрясут ТЗ, то будет версия для мобильников, вот в ней, как ни забавно, будет распараллеливание одиночного запроса по ядрам. У мобилы юзер один, а ядер даже сейчас бывает два, будет и больше :)

На всех смартфонах есть эскулайт, не хотите использовать в качестве хранилища? Потом можно будет и на яваскрипт портировать, в браузерах современных тоже есть эскулайт.
...
Рейтинг: 0 / 0
OpenLink Virtuoso и RDF --- надо ли это и это ли надо?
    #37361024
Фотография iv_an_ru
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
MBGiv_an_ruЕсли утрясут ТЗ, то будет версия для мобильников, вот в ней, как ни забавно, будет распараллеливание одиночного запроса по ядрам. У мобилы юзер один, а ядер даже сейчас бывает два, будет и больше :)

На всех смартфонах есть эскулайт, не хотите использовать в качестве хранилища? Потом можно будет и на яваскрипт портировать, в браузерах современных тоже есть эскулайт.Мы сами вообще ничего не хотим. Клиенты хотят виртуозу на мобильниках (на ARM-овых девайсах, точнее) --- будет им и такая виртуоза.
...
Рейтинг: 0 / 0
25 сообщений из 94, страница 3 из 4
Форумы / Другие СУБД [игнор отключен] [закрыт для гостей] / OpenLink Virtuoso и RDF --- надо ли это и это ли надо?
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]