- имя файла в русской win7: 'ф 0.jpg'
- echo дает кракозябру (в utf кодировке страницы): '� 0.jpg'
- iconv('windows-1251','utf-8',$file): 'д 0.jpg'

- массив имен кодовых страниц CP('utf-8', 'ISO-8859-5', 'windows-1251')
- в цикле по CP
  - iconv из CP[i] в CP[i]
  - результат двоично (через md5) сравнивается с исходной строкой
  - если совпадение, то CP[i]

function get_str_cp($str){
    $arrCP = array('utf-8', 'ISO-8859-5', 'windows-1251'); // предполагаемые кодировки по приоритету
    foreach ($arrCP as $key=>$cp){
        if (md5($str) === md5(iconv($cp, $cp, $str))){
            return $cp;
        }
    }
    return null;
}