Нет жестких ограничений. Абсолютная верхняя оценка следует из формата HANDLE = DWORD.
Т.е. MAX(DWORD) или учитывая существование разного рода резервированных значений HANDLE, я бы оценил предел как MAX(DWORD)/2.

Но в реальности истощение ресурсов ОСи наступает раньше. Кроме того пространство HANDLE-ов разделяемо с другими процесссами => чем больше откроют другие - тем меньше останется тебе.

Также, эта величина зависит и от устройства, на котором открывают файлы, например на сервере сети микрософт невозможно клиенту открыть более 64000 файлов... на рабочей станции и того меньше (~1000).