powered by simpleCommunicator - 2.0.61     © 2026 Programmizd 02
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Форумы / Java [игнор отключен] [закрыт для гостей] / Покритикуйте архитектуру
25 сообщений из 65, страница 1 из 3
Покритикуйте архитектуру
    #37911651
Kostya Ilyinov
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Оригинал в ветке Оракла - но тут тоже думаю есть кому приложиться так сказать
===

Выношу на общественный суд предложенную архитектуру системы. Буду признателен за конструктивную критику (немного неконструктивной тоже можно, но в меру).

Ограничения:
1. Oracle XE - на первое время 11ГБ хватит за глаза, а там можно на СЕ1 переехать
2. ТОлько локальные диски пока (в перспективе SAN/FCoE/ISCSI)
3. Использование ЕС2 или схожего решения для облачного развертывания

Физическая конфигурация:
1. Сервер БД - 1.7G RAM (EC2 small instance) + 2*15GB диски ЕБС (striped with mdadm) для данных
OS: Oracle Linux 5/6
2. Веб/сервер приложений: 3.75GB RAM (EC2 medium instance) + 2*10GB диски ЕБС (striped)
OS: Oracle Linux 5/6
AppServer/WebServer: Oracle GlassFish 3.1
Дополнительно на этом же сервере: Apache ActiveMQ message broker
memcached server
Suggested RAM allocation: AS - 2.5GB
memcached - 768MB

Собственно вопрос:

Сайт будет позволять пользователям загружать картинки товаров, думаю не более 20 на пользователя. Картинки предполагается хранить в базе как БЛОБы. Периодически картинки выгружаются из базы на локальный диск и синхронизируются с хранилищем СДН (eg. Amazon CloudFront)

Предполагаемый подход:
1. Пользователь загружает картинку
2. Приложение сохраняет ее в базу, поле Extraction_Date = NULL
3. По крону или по планировщику Глассфиша запущаем либо бин либо PL-SQL скрипт для выгрузки невыгруженных картинок на диск
3.1 Допустимо чтобы картинка была выгружена в течение часа. Пользователю, загрузившему картинку, ее можно показать и из базы я думаю.
4. rsync синхронизирует локальный диск с хранилищем CDN
5. Программа генерирует ссылки на кратинке в формате необходимом для CDN

Где могут быть узкие места подобного подхода при наличии около 1000 одновременных пользователей в системе (на данном железе)?
На чем следует акцентировать внимание при формировании бюджета в будущем? Например за 5 килобаксов купить пролиант с 16ГБ памяти и ССД диски?

Буду благодарен опытным архитекторам и просто профессионалам за конструктивную критику и предложения по улучшению.
...
Рейтинг: 0 / 0
Покритикуйте архитектуру
    #37911665
Фотография Petro123
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Kostya Ilyinovза конструктивную критику
мне непонятно, почему столько текста и времени уделено "показу картинки".
Это счас трудный вопрос для архитектуры\железа\СУБД?

т.е. этот пост не тянет на заголовок:
"предложенную архитектуру системы "
imho
...
Рейтинг: 0 / 0
Покритикуйте архитектуру
    #37911689
Kostya Ilyinov
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Petro123,

Не скажите, коллега. Вот допустим вам нужно определенное время отклика. Есть СДН, есть картинки. А вот как их синхронизировать, будет ли масштабироваться подход с пакетной выгрузкой, или сделать JMS очередь и слушаетеля для выгрузки для скорейшей обработки. Опять же, может букв и много, и громкий заголовок, но из блоков и собирается система, и при так сказать кривизне одного блока, другой должен быть так сказать впуклым :-) Интересует критика и потенциальные узкие места при росте числа пользователей и картинок. Для корпоративного сайта может скорость и не критична, но для пользователей допустим платного сервиса это реальное конкурентное преимущество. Так что пАпрашу Вас пролить свет на недостатки предложенного подхода.
...
Рейтинг: 0 / 0
Покритикуйте архитектуру
    #37911698
Фотография Petro123
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
если говорить Только о картинках, то нет Функциональных требований к данной подсистеме из ТЗ.

Kostya IlyinovСайт будет позволять пользователям загружать картинки товаров, думаю не более 20 на пользователя.
это не из ТЗ на ИС.
4.2 Требования к функциям, выполняемым системой
...
Рейтинг: 0 / 0
Покритикуйте архитектуру
    #37911701
Фотография Petro123
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Kostya Ilyinovвремя отклика
"сколько будет в граммах?" (с)
ЗЫ.
Очень часто архитектор и программист сами себе выдумываю задачу.
...
Рейтинг: 0 / 0
Покритикуйте архитектуру
    #37911720
Kostya Ilyinov
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Petro123,

Согласен, мне сейчас сложно оценит такой показатель. Поэтому и интересуют потенциальные проблемы предложенного подхода, чтобы в будущем избежать сложных изменений. Время простоя в будущем будет стоить денег, поэтому хочется определиться раньше нежели чем позже. Если у Вас кроме критики постановки вопроса и отсутствия в задаче некоторых вводных данных нет аргументов, меня это несказанно радует.
...
Рейтинг: 0 / 0
Покритикуйте архитектуру
    #37911738
Kostya Ilyinov
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Kostya Ilyinov,

Согласен, данных для детального разбора подхода может недостаточно, но я поясню что я бы хотел услышать:

1. Предложенный подход будет тормозить доступ к картинкам, т.к. процессы оракла будут соревноваться за доступ к таблице с картинками (это пример, на самом деле гонки не должно быть ввиду хранения картинок допустим в отдельном табличном пространстве от самих данных о картинках - идентификатор товара и т.д.)
ИЛИ
2. Предложенный подход гавно, потому что картинки надо хранить на диске, я видел что Ашот так делает и это единственно верное решение

и т.д.
...
Рейтинг: 0 / 0
Покритикуйте архитектуру
    #37911742
Фотография Petro123
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Kostya Ilyinov,
да я понял, что у вас вопрос про всю линейку картинок от малой системы (ничего не делать, показ прямо из блоб) до одноклассников.
Т.е. конкретной задачи от заказчика нет.
ОК - подумаем
...
Рейтинг: 0 / 0
Покритикуйте архитектуру
    #37911759
Kostya Ilyinov
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Petro123,

Именно коллега, интересует гибкость и масштабируемость подобного подхода. Клиент - сам я, поэтому с формализацией требований в соответствии с действующими регламентами прогресса ожидать сложно - все время идет на разработку прототипа и все связанное с этим. Вводные будут появляться по мере наступления так сказать. Спасибо за потраченное время.
...
Рейтинг: 0 / 0
Покритикуйте архитектуру
    #37911766
ShSerge
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Что такое 1000 одновременных пользователей? Все тыщу пользователей одновременно гигибайтные картинки грузят?
Скорее всего - нет. А раз так, выберите самое простое и дешёвое. Потому что загрузка и просмотр картинок - не самая большая проблема.
...
Рейтинг: 0 / 0
Покритикуйте архитектуру
    #37911774
Фотография Petro123
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Kostya Ilyinov,
- за оракл не беспокойся. Не будет там ничего тормозить (опять же нет кол-ва польз-лей).
Просто, сначала будут картинка превью 100х100 пикселей.
А вот, если кликнул "на посмотреть", то загрузка уже большой.
Те кто кликнут будет в 100 раз меньше чем тех с превью.

Ещё лучше, протестировать. Тест займёт _один_ день.

Второй критерий, сколько картинок на одной странице. Т.е. в конечном итоге нужно количество запросов в единицу времени на сервер.
А потом уже - линейка решений. Так вам её никто не даст.

ЗЫ на оракле форума вам правильно уже ответили. Пойдёт ЛЮБОЕ решение.
imho
Удачи!
...
Рейтинг: 0 / 0
Покритикуйте архитектуру
    #37911803
Kostya Ilyinov
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Petro123,

Т.е. предлагаете при загрузке картинки сразу писать 2 поля - большую и маленькую картинки? И на странице показывать маленькие, а при нажатии - большую? В том то и дело, что из базы хочется брать минимум - скажем так, метаданные. А картинку (любую) рендерить с веб/СДН сервера.
...
Рейтинг: 0 / 0
Покритикуйте архитектуру
    #37911831
Фотография Petro123
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Kostya IlyinovPetro123,
Т.е. предлагаете при загрузке картинки сразу писать 2 поля - большую и маленькую картинки? И на странице показывать маленькие, а при нажатии - большую? В том то и дело, что из базы хочется брать минимум - скажем так, метаданные. А картинку (любую) рендерить с веб/СДН сервера.
опять же, есть слово - оверхед.
Видно что вы - программист. Он (программист) всегда старается сделать в динамике и на лету.)))
Но, превью Очень широко используется.
Или, взять, тайлы карты от Гугля\яндекса. Случайно там рендерится ЗАРАНЕЕ дерево картинок по 22 штуки на одно место?

Т.е. опять без нагрузки флейм бессмысленен.
- попробуйте НИЧЕГО не делать, всё налету из БЛОБ и узнаете ограничение.
Ну, или попросите подчинённого.
...
Рейтинг: 0 / 0
Покритикуйте архитектуру
    #37911852
Kostya Ilyinov
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Petro123,

Вот это уже дело. Тут еще какая особенность имеется. В РФ скажем так подавляющее большинство целевой интернет-аудитории онлайн проекта сидит в Дефолт-сити или Питере. Тут (в Австралии) все несколько иначе - относительно крупных городов несколько (скажем 4-5), и все хотят быстрый сайт, избалованы фэйсбуком и его СДНами. Поэтому СДН - это скорее данность, он не требует больших затрат, и дает ощутимое преимущество при географическом распределении аудитории. А все из базы тянуть - да, проще, но рано или поздно что-то надо будет делать. Вот я и думаю, предложенное решение вроде навскид решает задачу, и масштабироваться должно неплохо (хехе, без тестов - только в теории). Поэтому и пляшу от СДНа так сказать. Картинки из базы ведь кэшироваться не будут (?), и это опять же дополнительные расходы по трафику и деньгам между узлами в облаке.
...
Рейтинг: 0 / 0
Покритикуйте архитектуру
    #37911855
Фотография mayton
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Kostya Ilyinov, да его заDDOS-ят с двумя сокетами. Тыж даже админом хер зайдешь в час нагрузки.
...
Рейтинг: 0 / 0
Покритикуйте архитектуру
    #37911894
Kostya Ilyinov
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
mayton,

Коллега, поясните пожалуйста. Кого задосят? СДН, сервер приложений или ?
...
Рейтинг: 0 / 0
Покритикуйте архитектуру
    #37911917
Фотография mayton
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Смотри у тебя БД станет неодступной для новой транзакции когда не сможет создать
новый connection при условии что все другие слоты транзакций уже заняты.
Это самая распространённая ошибка разработчиков. Они не могут (реально не могут)
посчитать сколько же будет соединений одновременно рабоатать.

Где-то проскакивала информация о макс. количестве двух сокетов в Oracle XE но сейчас никак
не могу найти это в документации. Вобщем смотри сам. Создай на java в цикле макс число
коннектов и посчитай сколько выйдет. Только не через connection pool а по настоящему.
...
Рейтинг: 0 / 0
Покритикуйте архитектуру
    #37911922
Kostya Ilyinov
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
mayton,

XE будет брать одно ядро по-моему. Допустим. Ну и как же быть в подобной ситуации? Ваши предложения в студию пожалуйста.
...
Рейтинг: 0 / 0
Покритикуйте архитектуру
    #37911932
Фотография Petro123
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Kostya IlyinovКартинки из базы ведь кэшироваться не будут (?),
будет работать кэш сервера. Т.е. сервер отдаст её СРАЗУ в канал на аппСервер. Ничего искать повторно у себя не будет.
Потом 2 кэша Хибера.
...
Рейтинг: 0 / 0
Покритикуйте архитектуру
    #37911945
Фотография mayton
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Kostya Ilyinovmayton,

XE будет брать одно ядро по-моему. Допустим. Ну и как же быть в подобной ситуации? Ваши предложения в студию пожалуйста.
Да какие предложения. Покупай сразу SE или выше.

XE - это только для обучения разрабочиков. Или для
систем у которых ну совсем нагрузки нет. И 1 сеанс
с ними работает. Ну типа там себе на ноут поставить
на "попробовать". Вот и всё.

Вобщем почитай тут

http://www.oracle.com/technetwork/products/express-edition/overview/index.html
...
Рейтинг: 0 / 0
Покритикуйте архитектуру
    #37911971
Фотография Petro123
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
mayton,
ты на форуме оракла зря вопрос задал.
Это не их вопрос, т.к. выдержит любая БД.
Решение на Java = решение на шарпе питоне или ещё чем.
Все решения будут работать , но если ты Jav'ист, то APEX - не твоё.
...
Рейтинг: 0 / 0
Покритикуйте архитектуру
    #37911975
Фотография Petro123
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
mayton, упс, аффтару было - не тебе. сорри.
...
Рейтинг: 0 / 0
Покритикуйте архитектуру
    #37912015
рубист
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Kostya Ilyinov,

+ 1000
за хронение картинок в файловой системе, а не в БД
...
Рейтинг: 0 / 0
Покритикуйте архитектуру
    #37912019
Kostya Ilyinov
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Petro123,

Спасибо - буду делать. Как запущу, дам знать. Может на хабрушку чего чиркану если время будет. Спасибо всем откликнувшимся.
...
Рейтинг: 0 / 0
Покритикуйте архитектуру
    #37912039
Kostya Ilyinov
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
рубист,

Оргументируйте, коллега
...
Рейтинг: 0 / 0
25 сообщений из 65, страница 1 из 3
Форумы / Java [игнор отключен] [закрыт для гостей] / Покритикуйте архитектуру
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]