...
if FindWindow(nil, 'My program Window') <> 0  then showmessage ('Заголок моего окна есть');
...
if findwindow('TMyProgramForm', nil) <> 0  then showmessage ('Класс моего окна есть');
...
pc:='Название окна';
asm
  push pc
  push ''
  call findwindow
  mov wnd,eax
end;
...

procedure TForm1.FormCreate(Sender: TObject); 
begin 
  {Проверяем есть ли указатель на 
		предыдущую копию приложения}
  IF hPrevInst <>  0  THEN BEGIN 
    {Если есть, то выдаем сообщение и выходим}
    MessageDlg('Программа уже запущена!', mtError, 
		[mbOk],  0 ); 
    Halt; 
  END; 
  {Иначе - ничего не делаем 
		не мешаем созданию формы)}
end;

P.S. Для выхода необходимо использовать Halt, а не Close, как хотелось бы, так как форма еще не создана и закрывать нечего. 
Есть и другой способ - по списку загруженных приложений 

procedure TForm1.FormCreate(Sender: TObject);
VAR
 Wnd : hWnd;
 buff : ARRAY[ 0 ..  127 ] OF Char;
Begin
 Wnd := GetWindow(Handle, gw_HWndFirst);
 WHILE Wnd <>  0  DO BEGIN
  IF (Wnd <> Application.Handle) AND (GetWindow(Wnd, 
		gw_Owner) =  0 )
  THEN BEGIN
   GetWindowText (Wnd, buff, sizeof (buff ));
   IF StrPas (buff) = Application.Title THEN 
   BEGIN
    MessageDlg('Приложение уже загружено', 
		mtWarning, [mbOk],  0 );
    Halt;
   END;
  END;
  Wnd := GetWindow (Wnd, gw_hWndNext);
 END;
End;

program Project0;
uses
  Windows,  // !!!
  Forms,
  Unit0 in 'Unit0.pas' {Form1};
var
  Handle1 : LongInt;
  Handle2 : LongInt;
{$R *.RES}
begin
  Application.Initialize;
  Handle1 := FindWindow('TForm1',nil);
  if handle1 =  0  then
    begin
      Application.CreateForm(TForm1, Form1);
      Application.Run;
    end
  else
    begin
      Handle2 := GetWindow(Handle1,GW_OWNER);
       //Чтоб заметили :)
      ShowWindow(Handle2,SW_HIDE); ShowWindow
		(Handle2,SW_RESTORE); 
      SetForegroundWindow(Handle1); // Активизируем
    end;
end.