Option Explicit
Private Declare Function SetParent Lib "user32" (ByVal hWndChild As Long, ByVal hWndNewParent As Long) As Long
Private Declare Function FindWindow Lib "user32" Alias "FindWindowA" (ByVal lpClassName As String, ByVal lpWindowName As String) As Long
Private Declare Function SetWindowPos Lib "user32" (ByVal hwnd As Long, ByVal hWndInsertAfter As Long, ByVal x As Long, ByVal y As Long, ByVal cx As Long, ByVal cy As Long, ByVal wFlags As Long) As Long
Private Declare Function GetWindowLong Lib "user32" Alias "GetWindowLongA" (ByVal hwnd As Long, ByVal nIndex As Long) As Long
Private Declare Function SetWindowLong Lib "user32" Alias "SetWindowLongA" (ByVal hwnd As Long, ByVal nIndex As Long, ByVal dwNewLong As Long) As Long
Const GWL_STYLE = (- 16 )
Const WS_BORDER = &H800000
Const WS_THICKFRAME = &H40000

Private Sub Command1_Click()
Dim lHWND As Long
Dim lStyle
'запускаем программу "блокнот"
Shell "notepad"
'ищем окно запущенной программы
'NOTE: иногда запущенная программа не успевает создать окно,
'NOTE: тут ужо чего нибудь придумывать надо
lHWND = FindWindow(vbNullString, "Untitled - Notepad")
If lHWND =  0  Then Exit Sub
'вписываем окно программы в свою форму
SetParent lHWND, Me.hwnd
'указываем новые координаты для окна запущенной программы внутри своей формы
SetWindowPos lHWND,  0 ,  10 ,  10 ,  250 ,  250 ,  0 
'прячем заголовок окна запущенной программы,
'запрещаем изменение размеров окна запущенной программы,
'в общем приклеиваем ее
'NOTE: с консольными приложениями вроде не работает
lStyle = GetWindowLong(lHWND, GWL_STYLE)
lStyle = lStyle And (Not WS_BORDER)
lStyle = lStyle And (Not WS_THICKFRAME)
SetWindowLong lHWND, GWL_STYLE, lStyle
End Sub

Option Explicit
Private Declare Function SetParent Lib "user32" (ByVal hWndChild As Long, ByVal hWndNewParent As Long) As Long
Private Declare Function FindWindow Lib "user32" Alias "FindWindowA" (ByVal lpClassName As String, ByVal lpWindowName As String) As Long
Private Declare Function SetWindowPos Lib "user32" (ByVal hwnd As Long, ByVal hWndInsertAfter As Long, ByVal x As Long, ByVal y As Long, ByVal cx As Long, ByVal cy As Long, ByVal wFlags As Long) As Long
Private Declare Function GetWindowLong Lib "user32" Alias "GetWindowLongA" (ByVal hwnd As Long, ByVal nIndex As Long) As Long
Private Declare Function SetWindowLong Lib "user32" Alias "SetWindowLongA" (ByVal hwnd As Long, ByVal nIndex As Long, ByVal dwNewLong As Long) As Long
Private Declare Function SendMessage Lib "user32" Alias "SendMessageA" (ByVal hwnd As Long, ByVal wMsg As Long, ByVal wParam As Long, lParam As Any) As Long

Const GWL_STYLE = (- 16 )
Const WS_BORDER = &H800000
Const WS_THICKFRAME = &H40000
Const WM_CLOSE = &H10

Private lHWND As Long

Private Sub Command1_Click()
Dim lStyle As Long
'запускаем программу "блокнот"
Shell "notepad"
'ищем окно запущенной программы
'так как переменная lHWND объявлена Private ее значение сохранится по завершению работы процедуры
'NOTE: иногда запущенная программа не успевает создать окно,
'NOTE: тут ужо чего нибудь придумывать надо
lHWND = FindWindow(vbNullString, "Untitled - Notepad")
If lHWND =  0  Then Exit Sub
'вписываем окно программы в свою форму
SetParent lHWND, Me.hwnd
'указываем новые координаты для окна запущенной программы внутри своей формы
SetWindowPos lHWND,  0 ,  10 ,  10 ,  250 ,  250 ,  0 
'прячем заголовок окна запущенной программы,
'запрещаем изменение размеров окна запущенной программы,
'в общем приклеиваем ее
'NOTE: с консольными приложениями вроде не работает
lStyle = GetWindowLong(lHWND, GWL_STYLE)
lStyle = lStyle And (Not WS_BORDER)
lStyle = lStyle And (Not WS_THICKFRAME)
SetWindowLong lHWND, GWL_STYLE, lStyle
End Sub

Private Sub Command2_Click()
'пошлем сообщение "закрыться" окну с хендлом полученным при нажатии на Command1
Call SendMessage(lHWND, WM_CLOSE,  0 ,  0 )
End Sub