//Документы
Table DOC (
   id         SERIAL,
   name       CHAR(10)
)

//Пользователи
Table USERS (
   id         SERIAL,
   name       CHAR(10)
)

//Группы пользователей
Table GROUPS (
    id        SERIAL,
    name      CHAR(10)
)

//Состав групп пользователей
Table USER_GROUP (
    id        SERIAL,
    userID    BIGINT UNSIGNED NOT NULL,
    groupID   BIGINT UNSIGNED NOT NULL,
    UK (userID, groupID),
    FK userID -> USERS(id),
    FK groupID -> GROUPS(id)
)

//Доступ к док-ам группам пользователей
Table DOC_GROUP_ACC(
    id        SERIAL,
    docID     BIGINT UNSIGNED NOT NULL,
    groupID   BIGINT UNSIGNED NOT NULL,
    UK (docID, groupID),
    FK docID -> DOCS(id),
    FK groupID -> GROUPS(id)
)

//Доступ к док-ам отдельным пользователям
Table DOC_USER_ACC(
    id        SERIAL,
    docID     BIGINT UNSIGNED NOT NULL,
    userID    BIGINT UNSIGNED NOT NULL,
    UK (docID, userID),
    FK docID -> DOCS(id),
    FK userID -> USERS(id)
)

.... WHERE docID IN (
    SELECT   docID 
    FROM      DOC_USER_ACC
    WHERE   userID=${ID текущего пользователя}
  UNION ALL
   SELECT    docID
   FROM      DOC_GROUP_ACC
   WHERE   groupID IN (${набор групп текущего пользователя})
)

SElECT * FROM DOCS WHERE checkDocAccess(docID)=1 
FUNCTION checkDocAccess(docID BIGINT) RETURNS TINYINT
BEGIN
   SELECT 1 
   FROM   DOC_USERS 
   WHERE docID=docID 
      AND   userID=${ТЕКУЩИЙ userID};
   IF ... RETURN 1 ELSE RETURN 0;
END