Прочитать документацию: https://www.postgresql.org/docs/current/sql-syntax-lexical.html#SQL-SYNTAX-IDENTIFIERS
SQL identifiers and key words must begin with a letter (a-z, but also letters with diacritical marks and non-Latin letters) or an underscore (_).
There is a second kind of identifier: the delimited identifier or quoted identifier. .... Quoted identifiers can contain any character, except the character with code zero.

melkij=> create temp table "001" ();
CREATE TABLE
melkij=> \d "001"
Таблица "pg_temp_3.001"
Столбец | Тип | Правило сортировки | Допустимость NULL | По умолчанию
---------+-----+--------------------+-------------------+--------------



Кавычки в синтаксической ошибке именно потому что это синтаксическая ошибка.