на сайте http://www.gvu.newmail.ru/ Уфимцев Глеб выложил пример "Создание Extended Stored Procedure для MSSQL средствами Delphi". на его основе, используя функцию _lopen можно проверять состояние любого файла.

XPSMPDLL.DPR:
---------------------------------
library XPSMPDLL;

uses
SysUtils,
Classes,
Windows;

{Заголовки API, которые нам понадобятся в примере}

function srv_paraminfo(srv: pointer; num: Integer; var typ, maxlen, len: Integer;
data: pointer; var isnull: boolean): Integer;
cdecl; external 'Opends60.dll' name 'srv_paraminfo';

function srv_sendmsg(srv: pointer; msgtype: Integer; msgnum: Integer;
severity_class: byte; state: byte; rpcname: pchar; rpcnamelen: Integer;
linenum: word; message_str: pchar; msglen: Integer): Integer;
cdecl; external 'Opends60.dll' name 'srv_sendmsg';


{возвращает первый параметр - имя файла (с полным путем)}

function GetFileName(srv: pointer): string;
var Typ, MaxLen, Len: Integer; IsNull: boolean; Data: pointer;
begin
GetMem(Data, 255);
try
srv_paraminfo(srv, 1, Typ, MaxLen, Len, Data, IsNull);
SetLength(Result, Len);
MoveMemory(pointer(Result), Data, Len);
finally
FreeMem(Data);
end;
end;

{Собственно, сама расширенная хранимая процедура}

function xpMain1(srv: pointer): Integer; cdecl;
var
FileName: string;
AFile: HFILE;
begin
FileName := GetFileName(srv);
AFile := _lopen(PChar(FileName), OF_READ or OF_SHARE_EXCLUSIVE);
if AFile <> HFILE_ERROR then
begin
_lclose(AFile);
srv_sendmsg(srv, 1, 0, 0, 0, nil, 0, 0, 'Файл не занят', -1);
Result := 1; {Все OK, т.е. SUCCEED}
end
else
begin
srv_sendmsg(srv, 2, 0, 16, 1, nil, 0, 0, 'Файл эксклюзивно занят другим пользователем', -1);
Result := 0; {Дело FAIL, т.е. хреново}
end;
end;

exports xpMain1 name 'xpSample';

begin
end.


---------------------------


set nocount on
DECLARE @Result int
DECLARE @Catalog varchar(12

CREATE TABLE #tTable (CATALOG_NAME sysname, DESCRIPTION nvarchar(255))

insert into #tTable exec sp_catalogs 'DBDEMOS'
select TOP 1 @Catalog = CATALOG_NAME from #tTable

Set @Catalog = @Catalog + '©lients.dbf'
EXECUTE @Result = master..xpSample @Catalog

--@Result = 1 - OK
--@Result = 0 - Fail

DROP table #tTable