أنشئ ملف robots.txt متوافقًا مع المعايير يخبر محركات البحث بما يجب الزحف إليه بالضبط.
تجمّع الأداة توجيهات User-agent وAllow/Disallow، ثم تضيف سطر Sitemap:. الناتج يتبع بروتوكول استبعاد الروبوتات بحيث تفهمه Google وBing وغيرها فورًا.
User-agent: * / Allow: / / Disallow: /admin / Disallow: /private / Sitemap: https://example.com/sitemap.xml — نقطة بداية آمنة لمعظم المواقع.
أضف بيانات منظمة للمقال تساعد Google على فهم محتواك وعرضه بشكل أفضل.
أضف بيانات منظمة للمنتج بالسعر والتوفر والتقييمات للتأهل للنتائج الغنية وGoogle Shopping.
أضف بيانات منظمة للأعمال المحلية بعنوانك وساعات عملك وبيانات الاتصال لتحسين SEO المحلي.
أنشئ وسوم Open Graph لتظهر روابطك بشكل مذهل عند المشاركة على الشبكات الاجتماعية وتطبيقات المراسلة.
أنشئ ملف robots.txt متوافقًا مع المعايير يخبر محركات البحث بما يجب الزحف إليه بالضبط.
Generate now — Freeاختر User-agent: * لجميع الزاحفين أو استهدف روبوتات محددة مثل Googlebot أو Bingbot أو GPTBot للتحكم الدقيق.
أدخل المجلدات أو الملفات التي تريد حظرها (مثل /admin أو /cart). كل شيء آخر مسموح افتراضيًا.
الصق موقع خريطة الموقع (https://yourdomain.com/sitemap.xml). هذا السطر يساعد محركات البحث على اكتشاف كل صفحاتك.
انقر توليد، انسخ الناتج في ملف باسم robots.txt وارفعه إلى جذر موقعك. تحقق منه في Google Search Console.
ملف robots.txt هو ملف نصي يوضع في جذر موقعك يخبر برامج زحف محركات البحث عن عناوين URL المسموح أو الممنوع الوصول إليها. وهو أول ملف يفحصه الزاحفون.
لا. robots.txt يمنع الزحف وليس الفهرسة. لمنع الفهرسة استخدم وسم meta noindex أو ترويسة X-Robots-Tag. إذا لم تستطع Google زحف الصفحة، فلن تفهرسها عادة.
ارفعه في جذر نطاقك ليصبح متاحًا على https://yourdomain.com/robots.txt. معظم شركات الاستضافة تسمح بوضعه في مجلد public_html أو www.
نعم. أضف حظر User-agent: GPTBot أو User-agent: CCBot لرفض تدريب النماذج مع إبقاء زحف Google نشطًا.
Explore the whole collection — no signup, 100% free & private.