kdvМорской десантЧто такое "алгоритм работы перед запуском дешифровать"?
как минимум, это значит напороться на включенный DEP, и получить неработающий плагин.
В соотвествии с принципом меча и щита защита софта должна иметь сбалансированные факторы:
- стоимость защищаемого софта
- популярность (распространенность), имеющаяся или предполагаемая, учитывая распространение взломанной версии
- стоимость защиты (кодирования)
- стоимость взлома (предполагаемая)
- количество геморроя для пользователя - сюда входит и "совместимость" защиты с разными ОС, и замена оборудования при привязке к оборудованию.

DEP отключается самим приложением, т.е. ничего не мешает при запуске содержимое dll/so через API криптоключа на расшифровку прогнать, смысл DEP был в том что если приложение само не пометило область как область кода, то там данные не интерпретируются как команды, возможно сейчас уже другая реализация, можно ещё jit какой-нить простенький встроить ( я всё вспоминаю simcity на zx spectrum ). А вот геморрой для серверного ПО это да, веселья может быть много.

про DEP по результатов собственных экспериментов по загрузке кода dll Из базы без сохранения в fs, возможно что то путаю, но в win7 можно из процесса пометить область данных как разрешённую для исполнения ( или при выделении непосредственно ).