wvetal, в сообщении об ошибке все сказано - "please make sure ... that it is a valid assembly or COM component". То есть reference можно делать только на .NET сборки или COM dll. Твоя dll видимо не является ни тем ни другим. Если AtUsbHid.dll это неуправляемая dll с экспортируемыми функциями, то на нее не нужно ссылаться - используй p/invoke.