Мой сайт недавно снят с карантина, уже индексируется Яндексом, в Веб-мастере файл robots.txt я вижу, но на сайте в Менеджере файлов его пока нет.
Мне бы надо кое-что там подкорректировать, например, не хочу, чтобы индексировались папки в корне сайта типа songs, books и т.п.
Сайт музыкальный, там много mp3 в плеере, Яндекс индексирует сами эти mp3 - тоже не хотелось бы.
Мне нужно, чтобы индексировались только страницы сайта, во всех модулях, фотографии тоже пусть индексируются, а вот mp3 с плеером - нет.
Веб-мастер выдаёт такие результаты, например:
/load/0-0-1-3-20
N / aURL неизвестен роботу 301Moved Permanently
https://inna-gilchenko.ucoz.club/songs/vetrenost.mp3 Как получить доступ к robots? Или просто сделать его самой и загрузить в корень?
Я уже давно не делала новых сайтов, подзабыла, что там с роботсом делать надо.
И что именно надо запретить, чтобы
mp3 не индексировались, а в поиск попадали только те страницы, где они размещены?