Неправильно ты читаешь документацию. Для sqlite3_open() путь должен быть в UTF-8, а для sqlite3_open16() путь должен быть в UTF-16.
А string там или wstring это дело десятое и зависящее от рантайм-библиотеки.

YK13,

Ты не понял....
Не важно какой класс ты используешь. string или wstring это в данном случае совершенно не важно. Можно жить с любым из них (и string предпочтительнее).
Не важно какой тип данных ты используешь. char или wchar_t это совершенно вторично. Можно использовать любой из них.
Да, в твоем частном случае замена одного класса на другой волшебным образом спасло. Но это частный случай который может произойти только на MSVS и только при использовании std.

Важно то чтобы строка в памяти была записана в UTF-8 или UTF-16.
Причем обрати внимание, что любую UTF-8 строку можно прочитать как UTF-16. Поэтому, у тебя при использовании string выдавалось что файл создался, но ты его при этом не видел. Файл базы действительно создавался, но в каком каталоге и под каким именем ты узнаешь только если попытаешься перекодировать свою строку из UTF-8 в UTF-16. Ну или поищешь по своему диску файлы со странными именами.