# задаем таймаут в 40 секунд для всех роботов User-agent: * Disallow: /moodle Crawl-delay: 100 # задает таймаут в 100 секунд для всех поисковых роботов