var 
  Excel,
  WB: OleVariant;
begin
  Excel:= GetActiveOleObject('Excel.Application'); //возвращает нормальный IDispath в случае а и б
  ExcelApp.DisplayAlerts := False; // в случае а - норм, б -уже тут ошибка
  WB := ExcelApp.Application.WorkBooks.Add(); //и тут тоже ошибка в случае б, если ExcelApp.DisplayAlerts := False; поставить в try except end;
end;

var 
  Excel,
  WB: OleVariant;
begin
  Excel:= GetActiveOleObject('Excel.Application'); //возвращает нормальный IDispath в случае а и б
  try
    Excel.DisplayAlerts := False; // в случае а - норм, б -уже тут ошибка
  except
  end;
  WB := Excel.Application.WorkBooks.Add(); //и тут тоже ошибка в случае б, если ExcelApp.DisplayAlerts := False; поставить в try except end;
end;

unit Unit1;

interface

uses
  Winapi.Windows, Winapi.Messages, System.SysUtils, System.Variants, System.Classes, Vcl.Graphics,
  Vcl.Controls, Vcl.Forms, Vcl.Dialogs, Vcl.StdCtrls;

type
  TForm1 = class(TForm)
    Button1: TButton;
    procedure Button1Click(Sender: TObject);
  private
    { Private declarations }
  public
    { Public declarations }
  end;

var
  Form1: TForm1;

implementation

uses System.Win.ComObj;

{$R *.dfm}

procedure TForm1.Button1Click(Sender: TObject);
var
  Excel,
  WB: OleVariant;
begin
  Excel:= GetActiveOleObject('Excel.Application'); //возвращает нормальный IDispath в случае а и б
  Excel.DisplayAlerts := False; // в случае а - норм, б -уже тут ошибка
  WB := Excel.Application.WorkBooks.Add(); //и тут тоже ошибка в случае б
end;

end.

function OpenExcel(var Excel: OLEVariant);
try
  Excel := GetActiveOleObject('Excel.Application');
  try
    Excel.DisplayAlerts; //или чего другое прочитать
  except
    Excel := CreateOLEObject('Excel.Application');
  end;
except
  Excel := CreateOLEObject('Excel.Application');
end;