|
|
|
Шифрование большого бинарного файла, надо ли шифровать его целиком?
|
|||
|---|---|---|---|
|
#18+
Привет криптологам! У меня стоит задача написать алгоритм шифрования бинарных файлов. Файлы это различные документы типа .doc, .docx. xls и т.п. Проблема в том, что файлы большие, размером от 20 до 200 мегабайт, и их очень много. Дополнительная проблема в том, что файлы я перехватываю и шифрую "на лету", потом они улетают дальше в ERP систему, где сжимаются по алгоритму LZW. Сжатие отменить нельзя. Поэтому возник вопрос: - Надо ли шифровать весь файл? Может стоит зашифровать только первые 10 кбайт, а остальные 199 мегабайт - фиг с ним. Если таблицы в начале документа покриптованы, то распаковать тот-же вордовский документ не получится. Вообще документы могут "прилетать" любых форматов и типов. Даже видео, mp3, дистрибутивы ПО и т.д. Весь файл я не хочу шифровать потому что это занимает много времени и ресурсов системы, а ведь потом еще и обязательное сжатие последует, если система будет пытаться сжимать огромные зашифрованные файлы она точно помрет в страшных муках или очередь из документов получится до Луны. Ну вот такой вопрос, сколько надо сжимать первых килобайтов для надежной защиты? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 06.02.2013, 21:01 |
|
||
|
Шифрование большого бинарного файла, надо ли шифровать его целиком?
|
|||
|---|---|---|---|
|
#18+
Nutz Дополнительная проблема в том, что файлы я перехватываю и шифрую "на лету", потом они улетают дальше в ERP систему, где сжимаются по алгоритму LZW. Сжатие отменить нельзя. В народе говорится, что зашифрованный файл нельзя сжать. Nutz- Надо ли шифровать весь файл? Может стоит зашифровать только первые 10 кбайт, а остальные 199 мегабайт - фиг с ним. Если таблицы в начале документа покриптованы, то распаковать тот-же вордовский документ не получится. Вообще документы могут "прилетать" любых форматов и типов. Даже видео, mp3, дистрибутивы ПО и т.д. Весь файл я не хочу шифровать потому что это занимает много времени и ресурсов системы, а ведь потом еще и обязательное сжатие последует, если система будет пытаться сжимать огромные зашифрованные файлы она точно помрет в страшных муках или очередь из документов получится до Луны. Ну вот такой вопрос, сколько надо сжимать первых килобайтов для надежной защиты?Найдите в сети и почитайте описание PGP (Pretty Good Privacy), там хорошо описано как надо шифровать. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 06.02.2013, 21:35 |
|
||
|
Шифрование большого бинарного файла, надо ли шифровать его целиком?
|
|||
|---|---|---|---|
|
#18+
S.G.В народе говорится, что зашифрованный файл нельзя сжать. Это мне известно. [/quot]Найдите в сети и почитайте описание PGP (Pretty Good Privacy), там хорошо описано как надо шифровать.[/quot] Для меня PGP не пойдет, слишком тормозной он. Я использую одну из реализаций симметричного шифрования, код на 32-bit x86 ассемблере, чуть больше сотни строк, оптимизировать уже дальше некуда ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 06.02.2013, 21:42 |
|
||
|
Шифрование большого бинарного файла, надо ли шифровать его целиком?
|
|||
|---|---|---|---|
|
#18+
NutzПривет криптологам! У меня стоит задача написать алгоритм шифрования бинарных файлов. Файлы это различные документы типа .doc, .docx. xls и т.п. Проблема в том, что файлы большие, размером от 20 до 200 мегабайт, и их очень много. Дополнительная проблема в том, что файлы я перехватываю и шифрую "на лету", потом они улетают дальше в ERP систему, где сжимаются по алгоритму LZW. Сжатие отменить нельзя. Поэтому возник вопрос: - Надо ли шифровать весь файл? Может стоит зашифровать только первые 10 кбайт, а остальные 199 мегабайт - фиг с ним. Если таблицы в начале документа покриптованы, то распаковать тот-же вордовский документ не получится. Вообще документы могут "прилетать" любых форматов и типов. Даже видео, mp3, дистрибутивы ПО и т.д. Весь файл я не хочу шифровать потому что это занимает много времени и ресурсов системы, а ведь потом еще и обязательное сжатие последует, если система будет пытаться сжимать огромные зашифрованные файлы она точно помрет в страшных муках или очередь из документов получится до Луны. Ну вот такой вопрос, сколько надо сжимать первых килобайтов для надежной защиты? Из этого мозгового штурма можно сделать вывод что ты не совсем понимаешь себе цену решения. Криптография это тяжёлая артиллерия. Это самый последний рубеж защиты информации. Когда все другие уже взяты. И если ты злоумышленнику оставляешь 199 Мб живых данных то такому шифрованию - грош цена и оно ничено не шифрует а только дискредитирует систему. Для людей которые целенаправленно охотятся за инфой анализ хвоста файла в 199М не представляет особого труда. Их не остановит такой пустяк как отстутствие заголовка. Если тебе лень и неохота этим заниматься то перенеси шифрование в плосксть трафика (VPN) или хранения (filesystem encrypton) но только не делай профанаций вроде "частичного шифрования". ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.02.2013, 00:25 |
|
||
|
Шифрование большого бинарного файла, надо ли шифровать его целиком?
|
|||
|---|---|---|---|
|
#18+
NutzСжатие отменить нельзя тяжёлый случай, docx и xlsx - уже пожаты zip'ом ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.02.2013, 01:08 |
|
||
|
Шифрование большого бинарного файла, надо ли шифровать его целиком?
|
|||
|---|---|---|---|
|
#18+
Изопропилтяжёлый случай, docx и xlsx - уже пожаты zip'ом Ура! А нас первый правильный ответ. Приз в студию! Теперь осталось выяснить, как поступит с ними умный программист. Потому, что глупый будет шифровать весь файл целиком, а умный только n-байт. Осталось выяснить, сколько составляет n. Я думаю что n=(HEAD_SIZE*2), где HEAD_SIZE размер структур заголовка архива. Надеюсь никто не будет спорить, что без заголовка и n-первых байт сжатых данных, архив всего лишь набор рандомного мусора. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.02.2013, 08:05 |
|
||
|
Шифрование большого бинарного файла, надо ли шифровать его целиком?
|
|||
|---|---|---|---|
|
#18+
NutzИзопропилтяжёлый случай, docx и xlsx - уже пожаты zip'ом Надеюсь никто не будет спорить, что без заголовка и n-первых байт сжатых данных, архив всего лишь набор рандомного мусора. Если бы это было так, то все бы так и шифровали - жали бы, и применяли "нормальную" криптографию к заголовку. Но никто почему-то так не делает. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.02.2013, 09:33 |
|
||
|
Шифрование большого бинарного файла, надо ли шифровать его целиком?
|
|||
|---|---|---|---|
|
#18+
Nutz, а кто за базар в случае взлома отвечать будет? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.02.2013, 09:41 |
|
||
|
Шифрование большого бинарного файла, надо ли шифровать его целиком?
|
|||
|---|---|---|---|
|
#18+
InkelyadЕсли бы это было так, то все бы так и шифровали - жали бы, и применяли "нормальную" криптографию к заголовку. Но никто почему-то так не делает. Да что вы говорите! А разработчики архиваторов разве не так делают? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.02.2013, 10:18 |
|
||
|
Шифрование большого бинарного файла, надо ли шифровать его целиком?
|
|||
|---|---|---|---|
|
#18+
NutzInkelyadЕсли бы это было так, то все бы так и шифровали - жали бы, и применяли "нормальную" криптографию к заголовку. Но никто почему-то так не делает. Да что вы говорите! А разработчики архиваторов разве не так делают?если так, тогда вообще непонятно, какие у вас проблемы, ведь NutzСжатие отменить нельзя - вот и сжимайте там с шифрованием, и будет вам счастье. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.02.2013, 10:35 |
|
||
|
Шифрование большого бинарного файла, надо ли шифровать его целиком?
|
|||
|---|---|---|---|
|
#18+
NutzInkelyadЕсли бы это было так, то все бы так и шифровали - жали бы, и применяли "нормальную" криптографию к заголовку. Но никто почему-то так не делает. Да что вы говорите! А разработчики архиваторов разве не так делают? Как - то незаметно автор занял позицию эксперта. Это удивляет. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.02.2013, 12:56 |
|
||
|
Шифрование большого бинарного файла, надо ли шифровать его целиком?
|
|||
|---|---|---|---|
|
#18+
NutzS.G.В народе говорится, что зашифрованный файл нельзя сжать. Это мне известно. S.G.Найдите в сети и почитайте описание PGP (Pretty Good Privacy), там хорошо описано как надо шифровать. Для меня PGP не пойдет, слишком тормозной он. Я использую одну из реализаций симметричного шифрования, код на 32-bit x86 ассемблере, чуть больше сотни строк, оптимизировать уже дальше некудаНу раз вы в курсе как работает PGP, значит вам известно, что большой файл он криптует именно быстрым симметричным алгоритмом, с однократно генерируемым ключом, и уже ключ криптуется по схеме с публичным ключом. Где вы нашли тормознутость, не знаю. Короче, "шифровка заголовка файла", это бессмысленное занятие. Либо шифруется все, либо ничего. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.02.2013, 13:08 |
|
||
|
Шифрование большого бинарного файла, надо ли шифровать его целиком?
|
|||
|---|---|---|---|
|
#18+
Блин. Ну о чём вы? Какая тормознутость? PGP это программный продукт-оболочка. Он поддерживает штук 6 алгоритмов (IDEA, Blowfish...), и кучу вариантов разрядности ключа (от 128 бит до 4096). Вы сами себе выбираете аспекты исходя из 1) требований к безопасности (это можно брать таблично или шаблонно) исходя из смежных решений или советов экспертов, 2) требований к производительности (сами регулируете силу шифрования исходя из того "сколько потянет" сервер сессий шифрования одновременно или какой трафик даст или будет ли успевать отработать суточные отчёт или выборку документов). ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.02.2013, 14:04 |
|
||
|
Шифрование большого бинарного файла, надо ли шифровать его целиком?
|
|||
|---|---|---|---|
|
#18+
NutzНу вот такой вопрос, сколько надо сжимать первых килобайтов для надежной защиты?Защита информации не признаёт полумер. Кроме того. 1. Практически используемые алгоритмы шифрования - блочные, таким образом, совершенно безразлично каков размер обрабатываемого потока данных; 2. Сначала упаковка, потом - сжатие. Популярно это объяснял ещё черте-когда автор PGP; 3. Не пытайтесь "изобрести собственный алгоритм шифрования". ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.02.2013, 16:09 |
|
||
|
Шифрование большого бинарного файла, надо ли шифровать его целиком?
|
|||
|---|---|---|---|
|
#18+
maytonКак - то незаметно автор занял позицию эксперта. Это удивляет. Чтобы знать форматы файлов популярных архиваторов не нужно быть экспертом ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.02.2013, 21:19 |
|
||
|
Шифрование большого бинарного файла, надо ли шифровать его целиком?
|
|||
|---|---|---|---|
|
#18+
Nutz- Надо ли шифровать весь файл? да, надо ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.02.2013, 21:32 |
|
||
|
Шифрование большого бинарного файла, надо ли шифровать его целиком?
|
|||
|---|---|---|---|
|
#18+
Изопропилда, надо Обосновать можете? С технической точки зрения. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.02.2013, 21:33 |
|
||
|
Шифрование большого бинарного файла, надо ли шифровать его целиком?
|
|||
|---|---|---|---|
|
#18+
NutzИзопропилда, надо Обосновать можете? С технической точки зрения. а кто за базар в случае взлома отвечать будет? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.02.2013, 22:11 |
|
||
|
Шифрование большого бинарного файла, надо ли шифровать его целиком?
|
|||
|---|---|---|---|
|
#18+
NutzmaytonКак - то незаметно автор занял позицию эксперта. Это удивляет. Чтобы знать форматы файлов популярных архиваторов не нужно быть экспертом Тогда пододвигайся ко мне ближе, знаток и слушай внимательно. Есть такая вещь как помехоустойчивое кодирование (ПК) (погуглишь потом). Вкратце суть - в файл добавляются служебные куски информации которые позволяют восстанавливать единичные ошибки на блок а при использовании более сложных кодов или при использовании перемежения блоков позволяют восстанавливать цепочки ошибок. Поскольку шифрование фрагмента файла можно вполне классифицировать как повреждение или изменение то ПК теоретически позволяет спокойно восстановить разрушенный фрагмент (заголовок). ПК усиленно применяется в компат дисках чтобы защищать данные при чтении от единичных сбойных ошибок (пыль и царапины на поверхности). Вопрос применения ПК в архиваторах и прочем софте останется тебе домашним заданием. Оценка безопасности твоего метода в разрезе новых знаний тоже останется тебе заданием. Читай, думай. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 08.02.2013, 00:01 |
|
||
|
Шифрование большого бинарного файла, надо ли шифровать его целиком?
|
|||
|---|---|---|---|
|
#18+
maytonВкратце суть - в файл добавляются служебные куски информации Читай, думай. Ну вот опять двадцать пять, вы или не понимаете о чем идет речь или не читаете мои посты. Я же уже писал выше, что хочу шифровать хидеры (или как вы их называете куски служебной информации). Ссылки на все эти структуры можно получить из заголовка архива. Кроме хидеров, шифровать еще некоторую часть архива (для надежности). И не обязательно кусок "сначала или c конца", а например первые 128 байт во всех блоках архива, тут никакое помехоустойчивое кодирование не поможет. Восстановить архив в данном случае невозможно (насколько я понимаю в алгоритмах LZW) Потому как декодер архиватора не сможет реконструировать начальный словарь, а значит и распаковать файл или даже его часть. Потому как без построенного словаря LZW не станет работать. Вот в чем смысл моего метода, не тратить время на шифрование всего файла. Это просто глупость и бесполезная трата ресурсов. авторЧитай, думай. Думаю и пока никто не убедил, что надо тратить ресурсы на шифрование всего файла архива. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 08.02.2013, 07:57 |
|
||
|
Шифрование большого бинарного файла, надо ли шифровать его целиком?
|
|||
|---|---|---|---|
|
#18+
NutzДумаю и пока никто не убедил, что надо тратить ресурсы на шифрование всего файла архива. в чьей компетенции вопрос - что , когда , как и чем шифровать? Что написано в техзадании? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 08.02.2013, 08:34 |
|
||
|
Шифрование большого бинарного файла, надо ли шифровать его целиком?
|
|||
|---|---|---|---|
|
#18+
NutzДумаю и пока никто не убедил, что надо тратить ресурсы на шифрование всего файла архива. Я придерживаюсь точки зрения что каждый грешник сам себе устилает дорогу в ад. Конешно же никто не схватит тебя за руку и твой софт будет работать. Просто подумай о том что любой LZW поток имеет определённые зависимости и энтропии и оставляя заинтересованным лицам возможность видеть этот трафик или перехватывать его ты даёшь им слишком много информации об открытом тексте. А зная открытый текст можно делать атаки на ключ. Об этом писал Брюс Шнайер. Вобщем если есть ПРОБЛЕМА производительности то я-бы подключил app-серверы шифрования в изолированом сегменте сети, и (или) понизил разрядность ключа и (или) ослабил сам метод. Но оставлять явные "дырки" в файле - это эпик фейл. Тебя может быть не поломают по аналогии с тем как "не ловят" неуловимого Джо. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 08.02.2013, 10:46 |
|
||
|
Шифрование большого бинарного файла, надо ли шифровать его целиком?
|
|||
|---|---|---|---|
|
#18+
Nutz...файлы я перехватываю и шифрую "на лету", потом они улетают дальше в ERP систему ... это занимает много времени и ресурсов системы... А вы проверяли производительность вашего алгоритма? на "средненьком компьютере" можно получить скорость от нескольких сотен мегабит в секунду до многих гигабит - вероятно, что такая производительность окажется выше производительности вашей сети, т.е. алгоритм шифрования будет не самым слабым звеном в цепочке путешествия данных... ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 08.02.2013, 15:37 |
|
||
|
Шифрование большого бинарного файла, надо ли шифровать его целиком?
|
|||
|---|---|---|---|
|
#18+
NutzМожет стоит зашифровать только первые 10 кбайт, а остальные 199 мегабайт - фиг с ним Это называется стрелять по воробьям межконтинентальными ракетами. То есть - бессмысленно. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 08.02.2013, 16:38 |
|
||
|
|

start [/forum/topic.php?fid=16&msg=38140965&tid=1341926]: |
0ms |
get settings: |
10ms |
get forum list: |
20ms |
check forum access: |
4ms |
check topic access: |
4ms |
track hit: |
95ms |
get topic data: |
13ms |
get forum data: |
3ms |
get page messages: |
85ms |
get tp. blocked users: |
2ms |
| others: | 238ms |
| total: | 474ms |

| 0 / 0 |
