1. Создайте временную папку (н.п. \install)
2. подностью скопируйте содержимое Oracle RDBMS server CD в созданную директорию
3. найдите в созданной директории файл symcjit.dll
4. переименуйте файл symcjit.dll в symcjit.old
5. Запустите setup.exe из новой директории

если всё равно не получится тогда:
переименуйте все файлы symcjit.dll в symcjit.old
откройте файл oraparam.ini
измените jre_memory_options на
jre_memory_options = -nojit-ms16m-mx32m
начать инсталяцию заново