1 - можно
для реквизита Б в справочнике А - устанавливаем признак отбора, а потом в спр. А в процедуре при записе пишем:
СпрА = СоздатьОбъект("Справочник.А");
Если СпрА.ВыбратьЭлементыПоРеквизиту("Б",Б,0) = 1 Тогда
Предупреждение("У элемента "+СпрА+" уже установлено значение "+Б);
СтатусВозврата(0);
КонецЕсли;

еще можно сделать так:
при выборе реквизита Б в спр А, коду спр А присваиваем код выбранного реквизита Б, и на коды спр А ставим уникальность

2 - можно контролировать
см. процедуры:
при записи
обработка подбора
обработка выбора значения
при начале выбора значения
при окончании редактирования строки
так же можно на редактируемый элемент в мн.ч. документа повесить процедуру

выбирайте, что удобнее