CreateObject создает COM-объекты, а не экземпляры внутренних классов. Юзай New. Проще всего сделать такой финт ушами:

Public Enum FormTypes
frmMain = 1
frmDirectory = 2
...
End Enum

Public Function CreateForm(ft As FormTypes) As Form
Dim f As Form
Select Case ft
Case frmMain: Set f = New Form1
Case frmDirectory: Set f = New Form2
End Select
Set CreateForm = f
End Function