robots.txt كيف تستفيد منه وتجعل العناكب تعشش في موقعك

**fayez** · 03-05-2008

السلا م عليكم

نعم صحيح
ولا يوجد نهاية للملف

ولكن انت ليش مانع الدنيا كلها

مو من صالح موقعك

**fayez** · 06-07-2008

عودة على الموضوع

اذا احتاج احدكم اي مساعدة

**عبدالله المطيري** · 26-01-2009

لما يكون عندي قسم مثل لالعاب و يكون رابطه على دومين فرعي { =http://games.xxxxx.com

ملف الروبوت يكون على المجلد الرئيسي على الموقع او بهذه الطرية xxxxx.com

و الشكر لك مقدما عـزيزي

**fayez** · 07-03-2009

حياك الله وبياك

**fayez** · 22-07-2009

شكرا لك من علق

**fayez** · 28-10-2009

شكرا لمروركم

**مستر سمعة** · 28-10-2009

وما رأيك بهذا :con2:

User-agent: *
Disallow: /vb/referrers.php
Disallow: /vb/ajax_cron.php
Disallow: /vb/ajax.php
Disallow: /vb/attachment.php
Disallow: /vb/calendar.php
Disallow: /vb/cron.php
Disallow: /vb/editpost.php
Disallow: /vb/global.php
Disallow: /vb/image.php
Disallow: /vb/inlinemod.php
Disallow: /vb/joinrequests.php
Disallow: /vb/login.php
Disallow: /vb/member.php
Disallow: /vb/memberlist.php
Disallow: /vb/misc.php
Disallow: /vb/moderator.php
Disallow: /vb/newattachment.php
Disallow: /vb/newreply.php
Disallow: /vb/newthread.php
Disallow: /vb/online.php
Disallow: /vb/poll.php
Disallow: /vb/postings.php
Disallow: /vb/printthread.php
Disallow: /vb/private.php
Disallow: /vb/profile.php
Disallow: /vb/register.php
Disallow: /vb/report.php
Disallow: /vb/reputation.php
Disallow: /vb/search.php
Disallow: /vb/sendmessage.php
Disallow: /vb/showgroups.php
Disallow: /vb/subscription.php
Disallow: /vb/threadrate.php
Disallow: /vb/usercp.php
Disallow: /vb/usernote.php
Disallow: /vb/archive
Disallow: /results?search_query
Disallow: /results/
Disallow: /cgi-bin
Disallow: /vb/admincp
Disallow: /vb/modcp
Disallow: /vb/faq
Disallow: /vb/online.php

##############################
# Google
##############################
User-agent: googlebot
Disallow: /cgi-bin/
Disallow: /images/
Disallow: /vb/ism/
Disallow: /vb/clientscript/
Disallow: /vb/cpstyles/
Disallow: /vb/customavatars/
Disallow: /vb/customprofilepics/
Disallow: /vb/images/
Disallow: /vbmodcp/
Disallow: /vb/ajax.php
Disallow: /vb/attachment.php
Disallow: /vb/calendar.php
Disallow: /vb/cron.php
Disallow: /vb/editpost.php
Disallow: /vb/global.php
Disallow: /vb/image.php
Disallow: /vb/inlinemod.php
Disallow: /vb/joinrequests.php
Disallow: /vb/login.php
Disallow: /vb/member.php
Disallow: /vb/memberlist.php
Disallow: /vb/misc.php
Disallow: /vb/moderator.php
Disallow: /vb/newattachment.php
Disallow: /vb/newreply.php
Disallow: /vb/newthread.php
Disallow: /vb/online.php
Disallow: /vb/poll.php
Disallow: /vb/postings.php
Disallow: /vb/printthread.php
Disallow: /vb/private.php
Disallow: /vb/profile.php
Disallow: /vb/register.php
Disallow: /vb/report.php
Disallow: /vb/reputation.php
Disallow: /vb/search.php
Disallow: /vb/sendmessage.php
Disallow: /vb/showgroups.php
Disallow: /vb/subscription.php
Disallow: /vb/threadrate.php
Disallow: /vb/usercp.php
Disallow: /vb/usernote.php
Disallow: /vb/calendar.php

##############################
# MSN
##############################
User-agent: MSNBOT
Disallow: /cgi-bin/
Disallow: /images/

##############################
# MSN2
##############################
User-agent: msnbot-media/1.0
Disallow: /cgi-bin/
Disallow: /images/

##############################
# ALEXA
##############################
User-agent: alexa_site_report
Disallow: /cgi-bin/
Disallow: /images/

##############################
# YAHOO
##############################
User-agent: slurp
Disallow: /cgi-bin/
Disallow: /images/

##############################
# BAN OTHERS
##############################
User-agent: *
Disallow: /

User-agent: WebZip
Disallow: /

User-agent: larbin
Disallow: /

User-agent: b2w/0.1
Disallow: /

User-agent: Copernic
Disallow: /

User-agent: psbot
Disallow: /

User-agent: Python-urllib
Disallow: /

User-agent: NetMechanic
Disallow: /

User-agent: URL_Spider_Pro
Disallow: /

User-agent: CherryPicker
Disallow: /

User-agent: EmailCollector
Disallow: /

User-agent: EmailSiphon
Disallow: /

User-agent: WebBandit
Disallow: /

User-agent: EmailWolf
Disallow: /

User-agent: ExtractorPro
Disallow: /

User-agent: CopyRightCheck
Disallow: /

User-agent: Crescent
Disallow: /

User-agent: SiteSnagger
Disallow: /

User-agent: ProWebWalker
Disallow: /

User-agent: CheeseBot
Disallow: /

User-agent: LNSpiderguy
Disallow: /

User-agent: Alexibot
Disallow: /

User-agent: Teleport
Disallow: /

User-agent: TeleportPro
Disallow: /

User-agent: MIIxpc
Disallow: /

User-agent: Telesoft
Disallow: /

User-agent: Website Quester
Disallow: /

User-agent: WebZip
Disallow: /

User-agent: moget/2.1
Disallow: /

User-agent: WebZip/4.0
Disallow: /

User-agent: WebStripper
Disallow: /

User-agent: WebSauger
Disallow: /

User-agent: WebCopier
Disallow: /

User-agent: NetAnts
Disallow: /

User-agent: Mister PiX
Disallow: /

User-agent: WebAuto
Disallow: /

User-agent: TheNomad
Disallow: /

User-agent: WWW-Collector-E
Disallow: /

User-agent: RMA
Disallow: /

User-agent: libWeb/clsHTTP
Disallow: /

User-agent: asterias
Disallow: /

User-agent: httplib
Disallow: /

User-agent: turingos
Disallow: /

User-agent: spanner
Disallow: /

User-agent: InfoNaviRobot
Disallow: /

User-agent: Harvest/1.5
Disallow: /

User-agent: Bullseye/1.0
Disallow: /

User-agent: Mozilla/4.0 (compatible; BullsEye; Windows 95)
Disallow: /

User-agent: Crescent Internet ToolPak HTTP OLE Control v.1.0
Disallow: /

User-agent: CherryPickerSE/1.0
Disallow: /

User-agent: CherryPickerElite/1.0
Disallow: /

User-agent: WebBandit/3.50
Disallow: /

User-agent: NICErsPRO
Disallow: /

User-agent: Microsoft URL Control - 5.01.4511
Disallow: /

User-agent: DittoSpyder
Disallow: /

User-agent: Foobot
Disallow: /

User-agent: SpankBot
Disallow: /

User-agent: BotALot
Disallow: /

User-agent: lwp-trivial/1.34
Disallow: /

User-agent: lwp-trivial
Disallow: /

User-agent: BunnySlippers
Disallow: /

User-agent: Microsoft URL Control - 6.00.8169
Disallow: /

User-agent: URLy Warning
Disallow: /

User-agent: Wget/1.6
Disallow: /

User-agent: Wget/1.5.3
Disallow: /

User-agent: Wget
Disallow: /

User-agent: LinkWalker
Disallow: /

User-agent: cosmos
Disallow: /

User-agent: moget
Disallow: /

User-agent: hloader
Disallow: /

User-agent: humanlinks
Disallow: /

User-agent: LinkextractorPro
Disallow: /

User-agent: Offline Explorer
Disallow: /

User-agent: Mata Hari
Disallow: /

User-agent: LexiBot
Disallow: /

User-agent: Web Image Collector
Disallow: /

User-agent: The Intraformant
Disallow: /

User-agent: True_Robot/1.0
Disallow: /

User-agent: True_Robot
Disallow: /

User-agent: BlowFish/1.0
Disallow: /

User-agent: JennyBot
Disallow: /

User-agent: MIIxpc/4.2
Disallow: /

User-agent: BuiltBotTough
Disallow: /

User-agent: ProPowerBot/2.14
Disallow: /

User-agent: BackDoorBot/1.0
Disallow: /

User-agent: toCrawl/UrlDispatcher
Disallow: /

User-agent: suzuran
Disallow: /

User-agent: TightTwatBot
Disallow: /

User-agent: VCI WebViewer VCI WebViewer Win32
Disallow: /

User-agent: VCI
Disallow: /

User-agent: Szukacz/1.4
Disallow: /

User-agent: Openfind data gatherer
Disallow: /

User-agent: Openfind
Disallow: /

User-agent: Xenu's Link Sleuth 1.1c
Disallow: /

User-agent: Xenu's
Disallow: /

User-agent: Zeus
Disallow: /

User-agent: RepoMonkey Bait & Tackle/v1.01
Disallow: /

User-agent: RepoMonkey
Disallow: /

User-agent: Microsoft URL Control
Disallow: /

User-agent: Openbot
Disallow: /

User-agent: URL Control
Disallow: /

User-agent: Zeus Link Scout
Disallow: /

User-agent: Zeus 32297 Webster Pro V2.9 Win32
Disallow: /

User-agent: Webster Pro
Disallow: /

User-agent: EroCrawler
Disallow: /

User-agent: LinkScan/8.1a Unix
Disallow: /

User-agent: Keyword Density/0.9
Disallow: /

User-agent: Kenjin Spider
Disallow: /

User-agent: Iron33/1.0.2
Disallow: /

User-agent: Bookmark search tool
Disallow: /

User-agent: GetRight/4.2
Disallow: /

User-agent: FairAd Client
Disallow: /

User-agent: Gaisbot
Disallow: /

User-agent: Aqua_Products
Disallow: /

User-agent: Radiation Retriever 1.1
Disallow: /

User-agent: Flaming AttackBot
Disallow: /

User-agent: Makbot
Disallow: /

**fayez** · 10-06-2010

اعتذر عن الانقطاع عن الموضوع و لي عوده

**fayez** · 26-10-2010

يفضل منع اي اشياء لا ترغب بان تؤرشف مثل
صفحات المواضيع المتكررة
الاعضاء
صفحة التسجيل وصفحات المساعدة ... الخ

**medfan2003** · 26-10-2010

ممكن ملف روبوت مثالي للجيل الرابع

**مزاجك بالعربي** · 30-10-2010

تسلم ماقصررررررررررررررت

**مزاجك بالعربي** · 31-10-2010

هل الملف هذا سليم عندي ؟
مع العلم اني حاطة داخل الصب دومين

User-agent: *

Disallow: /calendar.php
Disallow: /faq.php
Disallow: /register.php
Disallow: /attachment.php
Disallow: /subscription.php
Disallow: /payments.php
Disallow: /private.php
Disallow: /sendmessage.php
Disallow: /showgroups.php
Disallow: /reputation.php
Disallow: /report.php
Disallow: /threadrate.php
Disallow: /newthread.php
Disallow: /search.php
Disallow: /newreply.php
Disallow: /login.php
Disallow: /cron.php
Disallow: /joinrequests.php
Disallow: /usercp.php
Disallow: /printthread.php
Disallow: /editpost.php
Disallow: /printthread.php
Disallow: /member.php

Sitemap: http://XXXXXX/sitemap_index.xml.gz

User-agent: Googlebot-Image
User-agent: Googlebot-Mobile

**1tesh** · 04-11-2010

اخوي فايز

هل ملف هذا ينفع لي مواقع الالعاب ام فقط منتديات

**علي العتيبي** · 05-11-2010

الرجاء الانتباه
حيث أن آخر أمر وضعته ليس صحيح وإنما خاطىء 100%
ستنحذف كل صفحات موقعك !
الرجاء طلب تعديل مشاركتك وجعلها سماح هكذا

كود PHP:


User-agent: Googlebot-Image

# Allow Everything

Allow: /*

**fayez** · 11-11-2010

المشاركة الأصلية كتبت بواسطة 1tesh مشاهدة المشاركة

اخوي فايز

هل ملف هذا ينفع لي مواقع الالعاب ام فقط منتديات

الملف ينفع لكل موقع بشرط تعدل الامتدادات الخاصه بالملفات

الموضوع: robots.txt كيف تستفيد منه وتجعل العناكب تعشش في موقعك

أدوات الموضوع

بحث في الموضوع

المواضيع المتشابهه

[إسكريب] Robots Maker لصنع ملفات robots.txt

العناكب و نوع المنتدى

طرقـ اشهآر موقعك [نصائح مجربه] راح تستفيد كثير وترفع من موقعك طرق مجربه 100%

ادخل هنا والله راح تستفيد جدا لو انك هاوي تطوير موقعك.

شبكة سيريا نوبلز توسع الأفق وتجعل الإنترنت سهلة بين يديك .

ضوابط المشاركة