к сожалению, не занимался подобной проблемой.
думаю, алгоритм д.быть примерно таким -
1. dwThreadId = GetWindowThreadProcessId(hWnd, &dwProcessId);
2. в зависим. от типа ОС используя ToolHelpAPI или PSAPI перечисляем все
HMODULE, входящие в текущий поток или процесс (примерно...) -
один из модулей и владеет этип хандлом.
3. (совсем не знаю как...) необходимо установить, какой именно из этих модулей владее этим хэндлом - тут тож думаю помогут эти библиотеки.
имхо, мож спецы что-то более конкретное скажут

только не видно кода для Win9x, или PSAPI теперь работает и для 9х тоже?