Сделай в питоне:
print(r.request.headers)чтобы получить заголовки и попробуй их передать в басе. Недавно такая же проблема была, что сервер ничего не отдает. Решилось передачей заголовков Accept-Encoding и connection: keep/alive.
Пишу парсер для базы данных. Вижу что этих данных будет около 10 млн. Как лучше оптимизировать работу бас для такого количества строк, чтоб не потерять эти данные при ошибке, и не делать файл огромный. Не знаю будет ли работать с таким количеством. Или может реализовать это через базу данных, а в конце выгрузка?