ملف robots.txt من الملفات المهمه التى يجب عليك اضافتها الى موقعك وذلك لمنع عناكب البحث من ارشفه بعض المعلومات كما يقوم بارشادها لارشفه معلومات اخرى ولذلك زجب عليك اضافه هذا الملف لتنظيم سلوك عناكب البحث على موقعك تابع معى الخطوات
اضافه ملف robots.txt للوردبريس
اذا كنت تمتلك موقع على منصه الوردبريس فيجب عليك ايضا اضافه هذا الملف ولكن اضافته على الوردبريس سهله جدا تابع معى هذه الخطوات
- قم بتثبيت هذه الاضافه على موقعك Virtual Robots.txt ويمكنك تنزيلها من هنا او يمكنك تثبيتها مباشرتا على موقعك وذلك بالذهاب الى الاضافات ثم اختر اضف جديد ثم قم بادخال اسم الاضافه فى صندوق البحث ثم ابحث عنها وقم بتثبيتها وتفعيلها
- سيظهر لك بعد تفعيل الاضافه قائمه جديده باسم Virtual Robots.txt فى قائمه الاعدادات قم بالدخول اليها ثم اضف الملف الموجود فى الصندوق التالى مع تغيير رابط ملف Sitemap الى موقعك
User-agent: *Disallow: /wp-Disallow: */trackback Disallow: */page Disallow: /template.html Disallow: /author/* Disallow: *?replytocom Disallow: /readme.html Allow: */uploads Allow: *.gif Allow: *.js Allow: *.css Allow: *.png Sitemap: https://Your_Domin/sitemap.xml Allow: *.jpg
اقرا ايضا: اضافه ملف sitemap الى ادوات مشرفى المواقع
اضافه ملف robots.txt لبلوجر
- قم بالدخول الى المدونه ثم اختر الاعدادات
- بعد ذلك قم بالذهاب الى قسم برامج الزحف والفهرسة ثم قم بتفعيل زر "تفعيل محتوى ملف robots.txt مخصص
- قم بالضغط على زر ملف robots.txt مخصص ثم اضغ الكود التالى مع تغيير رابط Sitemap برابط موقعك
User-agent:Disallow:User-agent: *Allow: /Disallow: /*?updated-max=*Disallow:/searchAllow: /search/labelSitemap: https://Your_Domin/sitemap.xml
يرجى اتباع ارشادات المحتوى عند كتابه التعليق