Я думаю, он не находит файл параметров, а так же
файлы из папочки ../mysql/share

У меня так:

static char *server_args[] = {
"markup",
"--defaults-file=./sh/my.cnf"
};

static char *server_groups[] = {
"embedded",
"server",
"markup_SERVER",
(char *)NULL
};

а потом так:

//запуск embedded сервера
mysql_server_init(sizeof(server_args) / sizeof(char *),
server_args, server_groups);
...


//остановка emdedded сервера
mysql_server_end();

При этом в папочке с проектом есть папочка sh, а в ней
my.cnf и недостающие файлы: cp1251.conf, errmsg.sys, errmsg.txt, Index.

А вот и сам my.cnf:

[embedded]
datadir=./db
set-variable=key_buffer=16M

[markup_SERVER]
language=./sh
character-sets-dir=./sh
default-character-set=cp1251
skip-innodb

добавлю только, что у меня версия mysql 4.0.хх