Не удалось получить страницу с помощью ХТТП клиента



  • Работаю с апи гугл, и там сказано на 1 юзера 1.8 миллионов запросов в минуту, запускаю софт в 100 потоков, и все юзают 1 апи с задержкой в каждом потоке от 500мс до 1500мс, первые 1500 запросов идут гладко и быстро, потом начинаются ошибки вида:
    Не удалось получить страницу https://youtube.googleapis.com/ с помощью ХТТП клиента

    И я начал копаться в чем проблема, проверил квоту, она показала 5к запросов, окей, хорошо, вопрос с квотой решили, не играет роли ( я даже сделал 100 апи ключей гугл со 100 аккаунтов и так же запустил процесс = все одно и тоже )
    Далее я подумал, что проблема в пинге гугла, на сайте проекта моего ( консоль девелоперс гугл, раздел метрики ), проверил максимальное время ожидания запроса ( не превышает и двух секунд ), тогда я поставил ожидание в басе 30 секунд. Так же засунул запрос в вайл с использованием игнорирования ошибок ( мол если ошибка запроса, идет дальше ).
    Ну и проблема осталось той же. Я бы на нее забил если бы софт, который я делаю, не увидел на питоне, там при тех же апи и потоках скорость выше и без остановок после 1500 запросов. При этом питон не требует от меня юзер агенты и прокси => они не требуются ( что и логично, так как у гугла есть даже квота на колличетсво запросов в минуту )
    В общем люди добрые, кто знающий в этой теме, помогите разобраться!
    P.s. Я пробовал загрузить листы юзерагентов и рандомить юзер агент каждый запрос, сбрасывая HTTP клиент, результат такой же

    Пример гет запроса:
    9bb7917a-6366-42f9-9797-66074caf4c35-image.png


Log in to reply
 

  • 8
  • 3
  • 11
  • 13
  • 3
  • 21
  • 2
  • 5