wessenТ.е. ты хотел сказать, что throws IOException это единственный правильный вариант?

Я сказал то, что сказал (в ответ Leonidv).

Если говорить о том, нужно ли кинуть эксепшин вместо того, чтобы вернуть пустую строку, то всё зависит "от", но для большинства случаев ответ "да".
Почему "да"? Потому что метод скорее всего утилитный и будет использоваться в разных контекстах и следовательно нельзя предсказать всегда ли можно игнорировать отсутствие файла.
Кроме того, может быть важен не факт не возможности прочитать файл, но и причина, по которой этого сделать нельзя, чтобы правильно обработать ситуацию. Можно представить ситуацию, где отсутствие файла и отсутствие прав на чтение файла должны повлечь разную реакцию системы.

А если разработчик "мамой клянётся", что файл точно будет (н-р, он лежит в одном jar с исполняемым кодом), что можно сделать методы, в названии которых будет отражено, что они вернут в случае ошибки ввода-вывода или отсутствия файла: вернут пустую строку, null или кинут runtime эксепшин для IOException и null для FileNotFound.