Какво означава, че роботът е заобиколил уеб администратора? С какво е полезен този инструмент? Как работи инструментът

В Yandex.Webmaster се появи „Приоритетно обхождане на страници“. По този начин можете да информирате индексиращия робот за онези страници, които изискват приоритетно обхождане.


Защо този инструмент?

« Ако имате добра карта на сайта, можете да се справите и без този инструмент. Но все пак понякога възникват задачи, когато е необходимо спешно обхождане или повторно обхождане на страница. И този инструмент е за това“- обясняват представители на Yandex.

Например, трябва да се уверите, че текстът във фрагментите е заменен с нов, който вече е актуализиран на самата страница. Или трябва да ускорите търсенето на нови страници с новопристигнал продукт или новина.

Инструментът също така предоставя възможност за бързо връщане на страници, които са били изпуснати от търсенето поради неправилна настройкасървър, ограничения в robots.txt или друг проблем с достъпността на сайта за индексиращия робот.


Как работи инструментът?

Ще намерите „Приоритетно заобикаляне“ в новия Webmaster в секцията „Инструменти“. На този моментМожете да поискате обхождане на до 10 страници на ден за всеки проверен сайт. След като изпратите заявлението си, ще видите един от трите статуса на обработка на заявлението:

  1. „На опашка“ означава, че страницата е дадена на робот за обхождане и в рамките на 3 днизаявлението ще бъде обработено.
  2. „Роботът е заобиколен“ - страницата е посетена от робот и данните за страницата в търсенето ще бъдат актуализирани с последващи актуализации на базата данни за търсене.
  3. „Грешка“ - роботът не успя да посети страницата.

« Определено този инструмент е крачка напред за уеб администраторите. Според мен „Приоритетно обхождане“ ще бъде особено полезно за млади и развиващи се сайтове, тъй като често роботите може да не посещават такива сайтове много дълго време.
Ние вече използваме това в нашата работа и започнахме да го предлагаме на нашите клиенти, включително за тестване на ефективността на страниците на уебсайта
“, - коментари Сергей Андреев, маркетолог в Rookee.

Искате подробности?

По-долу предлагаме запис на петия уеб администратор на Yandex. „Приоритетно обхождане на страници“ беше обявено като част от втория доклад.

Хората могат да измислят най-различни неща, за да вкарат страницата на уебсайта си в индекса на Yandex или Google: купуват връзки, изпращат връзки от различни форуми, изпращат спам в социалните мрежи, но това често не е безплатно, трябва също да изчакате дълго време и не винаги помага. И днес ще ви покажа начин да индексирате всяка страница от вашия сайт бързо и безплатно, за това ви трябва само Yandex.Webmaster.

Добавете страница към индекса на Google за няколко секунди

Проблеми с индексирането в Google рядко възникват; в повечето случаи неговият бот обхожда сайтове няколко пъти на ден, но понякога има изключения. Е, онзи ден имах ситуация, при която статия беше добавена към Miralinks на украински сайт, тя беше индексирана, ако беше проверена от Украйна, но не беше индексирана, ако се гледаше от района на Москва, както прави роботът Miralinks. Затова нека разгледаме тези няколко кликвания, които трябва да бъдат направени, за да постигнем заветната цел:

Както можете да видите, всичко е много бързо и просто, сега ще се премести в друга търсачка.

Добавяне на страница към индекса на Yandex

Проблемите с Yandex са по-чести. Това е важно не само в случаите, когато търсачката не вижда страницата и не изпраща хора там, но и просто при продажба на връзки, когато без индексиране няма да видите пари за връзката. Просто имам неплатена връзка в GGL, така че веднага ще демонстрираме всичко на практика.


Виждаме, че на 24.07.2016 г. в 1:47 има неплатена връзка за 692 рубли, също така е ясно, че имам 0 рубли на баланса си.
И така, сега отиваме в Yandex.Webmaster и правим няколко кликвания:

  1. Избираме желания сайт, страницата, от която ще захранваме робота, и кликваме.
  2. След това в лентата с менюта отляво щракнете върху Инструменти => Обръщане на страницата.
  3. В полето, което се показва, поставете връзката и щракнете върху „Изпращане“.


Това е всичко, вече сме направили почти всичко, но просто трябва да го проверим не след няколко секунди, както е в случая с Google, а след няколко дни, добре, всички знаем колко бърза е местната търсачка е. На сайта обикновено пише, че роботът ще направи това в рамките на 3 дни, но на практика всичко се случва много по-бързо... В панела след 20 минути пише, че роботът е заобиколил страницата... Но в действителност ние може да види страницата в индекса само със следващата актуализация на Yandex.

Е, всичко се случи след 5 дни, тъй като с актуализацията на 29 юли 2016 г тази страницавече беше в индекса на Yandex.

Сега нашата връзка в gogetlinks се премести в раздела „Платени“ и парите за нея паднаха в баланса.


Между другото, имал съм случаи, когато страница е била индексирана от Yandex почти моментално, веднага след такова обхождане от робота, но виждаме, че това вече не е така, не знам, може би са променили алгоритъма малко, или може би се случва по друг начин...

Както можете да видите, всичко е много просто, ние наблюдаваме как роботите за търсене заобикалят нашите ресурси и ако не са погледнали нещо, тогава им помагаме с помощта на панели за уеб администратори, не напразно ги създадоха за нас . Има много повече интересни функции, за които ще говорим в нови публикации.


Вече много години всички уеб администратори и SEO специалисти се оплакват, че е много трудно за нов сайт да индексира страници. Това се дължи и на редките актуализации на резултатите от търсенето на Yandex.

Тази година Yandex представи нова версия неговият уеб администратор. Първоначално беше в бета тестване, а по-късно напълно преминаха към него.

Познатият addurilka в новия уеб администратор се намира в " Инструменти“ и сега се нарича обратно обхождане на страница.

Повторното обхождане на страници принуждава страниците да влизат в индекса на Yandex

Всеки нова статиямоя блог, освен че го споделям в социалните медии. мрежи, добавяйки към Yandex addurilkaи Google.

В новата addurilka (обхождане на страници) вече можете да добавяте URL адреси на партиди наведнъж, но има дневен лимит само 10 URL адреса.

По-рано Yandexкато психолог той просто прие връзките (изслуша какво му каза пациентът) и обеща, че роботът определено ще посети сайта и ще разгледа тези страници. В същото време абсолютно не обещаче страницата ще отиде направо в индекса.

Сега, работейки с онлайн магазин, продаващ сондажни платформи, веднага добавих партиди от нови оптимизирани страници на сайта както в Google, така и в Yandex.

Преди да започна да се занимавам с това, сайтът беше нов и имаше само 4 страници в индекса - начална, новини, за компанията и контакти. Не се говори за факта, че категориите стоки и особено самите стоки ще бъдат включени в индекса в близко бъдеще.

Представете си изненадата ми, когато почти всички страници, които добавих обхождане на страниципопаднали в индекса и самият Yandex, потвърждавайки това, показва времето, когато тези страници са попаднали в индекса.

Преди нямаше проблеми с Google. Почти страници излетя моменталнов индекса, когато се добави към addurilka, а в Yandex трябваше да чакам 2 седмици.

Ще проверя работата обхождане на страницатана още няколко страници, но фактът, че това помага за бързото поставяне на страници в индекса, и то безплатно и без да се прибягва до услуги на трети страни.

Ако повторното обхождане на страници работи също толкова добре за вас или не, моля, пишете в коментарите.

P.s. Реших да проверя дали тази статия е включена в индекса няколко часа по-късно и ето!

Както можете да видите на екранната снимка по-долу, страницата вече е в индекса и са изминали само 3 часа и 10 минути, но Yandex закръгля до голяма странаи пише преди 4 часа.

5 харесвания

По същество процесът на повторно обхождане на страниците на сайта е неговото повторно индексиране, по време на което информацията в кеша на търсачката се актуализира. Тоест предполага се, че страницата не е била в индекса преди. Тази процедураизвършва автоматично с на определени интервали(седмично), но интервалът е различен за всеки отделен сайт.

Понякога възникват ситуации, когато трябва да получите резултати възможно най-бързо. В този случай можете да използвате различни инструменти, за да ускорите повторното индексиране на страницата в Yandex и Google. Днес ще ви разкажа накратко за тях. Това ще е необходимо например, за да не чакате появата на робота. Или може би спешно трябва да замените информацията на вашия сайт в резултатите от търсенето. Методът е полезен и за връщане на случайно изпуснати URL адреси поради грешки на сървъра.

Запознах се онлайн различни съветипо темата: активно използване на инсталиране и т.н. Това обаче е повече за първичното индексиране, като например създаване на . За нашата задача има специални, по-ефективни и правилните начини— чрез панели за уеб администратори.

Тази функция се появи малко по-късно след пускането. Ако все още не сте регистрирани в тази услуга, определено ви съветвам да го направите - webmaster.yandex.ru. След като потвърдите правата върху сайта, можете да отидете в секцията „Индексиране“ - „Повторно обхождане на страницата“.

Тук, в текстовото поле, посочете връзките, към които искате да привлечете робота за търсене. Преди дневният лимит беше 10 броя, сега е 20 (на проект). След като щракнете върху „Изпращане“, под формуляра ще се покажат нови страници за повторно индексиране в Yandex. Общо те имат 3 статуса:

  • В опашката - току-що добавени връзки.
  • Роботът е прескочил - процесът е завършен, изчакайте актуализация кога следваща актуализациябази.
  • Грешка.

След това остава само да изчакате следващата актуализация.

Повторно обхождане на страници в Google

Изпълнението на подобна задача в Google е подобно, въпреки че отнема повече стъпки. Вашият сайт също трябва да бъде добавен в панела за уеб администратори, но вече Google Search Console. Намерете секцията „Обхождане“ в инструментите – „Извличане като Google“ (Преглед като Googlebot).

Тук имате нужда от:

  1. В текстовото поле въведете адреса на страницата, която ще бъде преиндексирана в Google (без домейн, само път).
  2. Кликнете върху бутона „Извличане“. Новият URL ще бъде добавен към списъка и ще покаже статус „Завършен“ след няколко секунди проверка.
  3. След това кликнете върху бутона „Искане за индексиране“, който се намира наблизо.

След това ще се появи изскачащ прозорец, в който избирате една от опциите за повторно обхождане на страницата с Google:

Можеш:

  • повторно индексиране на страница в Google за един URL (до 500 на месец).
  • сканиране определена страницаи всички директни връзки към него (10 броя на месец). Тази опцияработи добре за секции/категории със списък с публикации или .

Разбира се, с всичко това, повторното обхождане на страници в Yandex.Webmaster или Търсене в GoogleКонзолата не гарантира това нова информацияот вашия URL ще бъдат добавени към индекса. Съответствието с изискванията за алгоритми и съдържание не е отменено. По отношение на времето ситуацията е същата; инструментите определено ускоряват процеса, но това не означава, че той ще бъде завършен моментално. Във всички други отношения решението работи добре и позволява на нормалните проекти бързо да актуализират информацията в търсачките.

Ако имате какво да добавите по темата за преиндексиране на страници на уебсайтове, пишете в коментарите. Може би съм пропуснал някои подробности.

Тази грешка се показва в отчета след проверка определени странициуебсайт за достъпност в търсачката Yandex. Това става чрез специална услуга Yandex.Webmaster (Индексиране -> Инструмент за проверка на URL).

Какъв вид грешка?

Това означава, че роботът го е посетил, но не си е направил труда да го включи в резултатите от търсенето, смятайки го за нискокачествено и въобще - вие сте спамер, имате много реклами, коригирайте всичко веднага и тогава ние ще говоря! Най-изненадващото е, че понякога той смята материал с 5 000-10 000 символа за авторски права за „ниско качество“ и има отлична позиция пред конкурент в търсенето ( страницата ми не е индексирана аз беше в ТОП-3 в Ж)

Симптоми:

  1. Броят на заредените страници на сайта е с порядък по-голям от броя на страниците в търсенето.
  2. Някои страници упорито отказват да бъдат индексирани, дори след публикуване на връзка в приятелски тематични ресурси или в социални мрежи
  3. Съдържанието на неиндексираните страници е уникално и с високо качество
  4. Сайтът не се показва банерна реклама, или количеството му е минимално
  5. Сайтът не е под филтри търсачка.

Отстраняваме грешките, които са посочени в раздела „Диагностика“.

За да подобрите качеството на сайта и страниците в очите на Yandex, трябва, колкото и да е странно, да приемете съветите на самия Yandex. Въпросът е, че в Ya.WebmasterВ глава "Диагностика"има списък с текущи грешки, които могат да повлияят на изхода

Какво точно трябва да се коригира и как да стане?

Използвайте инструмента за обръщане на страницата

В Yandex. Уеб администраторът има специална услуга, която принуждава робота да посети отново вашата страница "инструменти"„Обръщане на страница“. Накарайте робота да посети вашата страница отново. Идеалният вариант е да добавите малко съдържание или поне да промените текста някъде. Като цяло, променете страницата, към която свързвате.

Премахнете дубликатите, забранете им индексиране

Почти най-големият враг на доброто индексиране отделни страници, които не се показват в резултатите от търсенето, са дубликати. Дубликати на страници, които се генерират от самата CMS, независимо дали е WP или DLE. Освен това дубликатите може изобщо да не са очевидни, т.е. като такива, няма „втори“ страници със същото съдържание, но има страници, които имат пренасочване към основния материал. Те могат да бъдат проследени I. Уеб администратор.За да направите това, отидете в менюто “Индексиране” -> “Статистика”.След това изберете категория до името на сайта "HTTP кодове 3xx"

Както можете да видите, страниците с пренасочвания са стотинка дузина:

Най-интересното е, че друго стандартно обслужване Yandex не може да изтрие дубликати веднага: Пише грешка „Няма основание за отстраняване.Тези. Yandex не може просто да премахне страница от търсенето, дори и да искате. Има нужда от причини

За да спре генерирането на дубликати и за да могат да бъдат изтрити от Резултати от търсенетотрябва да направите следните стъпки

  • Напишете ред код във файла functions.php (ако имате Word Press)

Обикновено този файл се намира в директорията с името на вашата тема. За редактиране можете да използвате FTP или вградения редактор в администраторския панел на WP - по ваша преценка. Поставете следния код

remove_action('wp_head', 'wp_shortlink_wp_head');

  • Настройте файла robot.txt

За да забраните индексирането на дубликати, трябва да създадете съответно правило във файла robot.txt

Забрана: /?p=*

Тези. страници като " site.ru/?p» са забранени за индексиране. Между другото, в Word Press най-лесният начин да добавите това правило също е чрез код в същия файл functions.php.Резултат премахнете URLчрез Ya.Webmaster вече е положителен:

Създаване на карта на сайта (Sitemap)

Картата на сайта е създадена специално, за да опрости навигацията не само за потребителите, но и за роботи за търсене. Ето защо, ако смятате, че посетителите ви нямат нужда от него, направете го поне за търсачката. Отдавна е доказано - Файлът Sitemap подобрява индексирането на страниците и сайта като цяло!За да създадете файл Sitemap.xml в CMS Word Press, използвайте приставката " Google XMLКарти на сайтове“.

За да покажете на Yandex, че сте създали файл и можете да го използвате от робот в Y.Webmaster, отидете на „Настройки за индексиране“ - „ Карти на сайтове» и поставете връзка към него (обърнете внимание, че състоянието „Опашката за обработка ще виси доста дълго дълго време»)

Попълнете мета тага за описание на името

За всяка страница трябва да я попълните Кратко описание, който се съдържа в специален мета таг . Алгоритмите за търсене ще използват този маркер, за да генерират описание на страницата, когато показват резултатите от търсенето (така наречения фрагмент)

За да не се занимаваме с редактиране на кода, можем да използваме плъгин за Word Press - Мета тагУправител, който добавя специален контейнер в края на редактора, където можете да го въведете

Пишем на техническата поддръжка на Yandex

Ако сте уверени в качеството на вашия сайт и по-специално на тези страници, които не се показват в търсенето. Yandex има доста голям наръчники огромен списък от „какво не е желателно“ или дори „непозволено“. Съветваме ви да го прочетете, преди да пишете клевети - https://yandex.ru/support/webmaster/yandex-indexing/webmaster-advice.xml

Какво мога да напиша и къде да пиша, за да получа отговор?

И така, вие сте сигурни, че вашият сайт е бял и пухкав, така че спешно трябва да пишете на Yandex. Ако това наистина е така, тогава:

  1. Отиди на страница https://yandex.ru/support/webmaster-troubleshooting/site-indexing.xml
  2. След това в анкетата изберете „ Сайтът ми не е индексиран добре."
  3. Тогава - " Някои страници от сайта не се намират при търсенето"
  4. В самия край трябва да поставите отметка в квадратчето „Страниците липсват от търсенето по неизвестни причини“

След което ще се отвори формуляр за обратна връзкас техническа поддръжка:

Във вашето съобщение можете да напишете нещо като следния текст ( не го копирайте напълно, просто го използвайте като шаблон)

P.S. Отговорът от Yandex е просто грешка в инструмента за проверка на URL адреси

Техническата поддръжка на Yandex ми отговори изненадващо бързо. Оказа се, че моите страници все пак са в търсене - виновен беше кривият инструмент „Проверка на URL“. Ya.Webmaster съвсем наскоро пусна нова версия на тази услуга - очевидно все още не всичко работи по предназначение.

Тези. Може би има страници, може би не? За да сте сигурни в това или онова предположение, трябва да проверите присъствието му в индекса на други услуги за уеб администратори.