Robots.txt là một loại tệp đặc biệt không phải là HTML hay bất kể thiết bị gì gần giống. Mục đích của tệp robots.txt là để đưa cho các công cụ tìm biết content nào trên website của bạn có thể được các bot thu thập và lập chỉ mục.
Sitemap robots txt
Sitemap txt
Mục đích của file Robots.txt là gì? Khi các phương tiện tìm kiếm tìm thông báo về web site của bạn, tệp Robots.txt có thể là nơi đầu tiên họ tìm kiếm. Tệp này cho các công cụ search biết những gì cần lập chỉ mục và những gì không tốt nhất nên lập chỉ mục. Bạn cũng thường xuyên hỗ trợ vị trí web site của mình trong sơ đồ web site XML. công cụ search gửi “chương trình”, “rô-bốt” hoặc “trình thu thập dữ liệu” để craw dữ liệu trang web của bạn, theo hướng dẫn cụ thể trong tệp Robots.txt (nếu tệp “rô-bốt” không được gửi, công cụ tìm sẽ không gửi ). .txt chỉ ra rằng điều này không thể lập chỉ mục). 
Sitemap robot
File Robots.txt nằm ở đâu? Tệp sơ đồ web site robots.txt thường nằm trong thư mục gốc. Bạn có thể tiện lợi tạo một tệp trống và đặt tên là Robots.txt. Điều này sẽ Giúp cho bạn giảm thiểu các lỗi trang web và hoàn tất mọi công việc của mình. công cụ tìm tìm nạp dữ liệu các trang web site đẹp. Ví dụ web bạn là sieutocviet.com thì file robots sẽ là sieutocviet.com/robots.txt File Robots mặc định của wordpress:
User-agent: * Disallow: /wp-admin/ Disallow: /wp-includes/
Hoặc Bạn khả năng cao tham khảo code này
User-agent: * Disallow: /wp-admin/ User-agent: * Allow: / Disallow: /*?* Disallow: /*/?* Sitemap: https://web.sieutocviet.com/sitemap.xml
