Robots.txt là dạng tập tin đặc biệt không phải là HTML hay một loại nào khác. Mục đích của việc sở hữu file robots.txt là khai báo tặng công cụ search biết rằng những content nào trên web site của bạn được cho phép các bot search và lập chỉ mục.
MỤC ĐÍCH CỦA FILE ROBOTS.TXT LÀ GÌ?
Khi có một dụng cụ tìm thông báo trang web của bạn, điều đầu tiên mà nó search đa số là file Robots.txt . File này sẽ nói với công cụ tìm kiếm những gì nên và không cần lập chỉ mục. Nó cũng thường chỉ ra vị trí web site của bạn trên XML Sitemap. Sau đó các phương tiện tìm sẽ gửi “bot”, “robot” hoặc “spider” để thu thập thông báo web site của bạn theo như hướng dẫn cụ thể của file Robots.txt (các công cụ tìm kiếm sẽ không gửi nếu file Robot.txt nói với họ là không thể chỉ mục). 
FILE ROBOTS.TXT NẰM Ở ĐÂU?
File Robots.txt khả năng cao nằm ở thư mục gốc của bạn, bạn thường thuận tiện tạo một file trống và đặt tên là Robots.txt, điều này hỗ trợ bạn hạn chế được các lỗi tặng trang web đồng thời đưa cho phép đa số các công cụ search thu thập thông tin về website của bạn. Ví dụ web site bạn là sieutocviet.com thì file robots sẽ là sieutocviet.com/robots.txt
