Как предотвращать дубли при парсинге?

Поддержка
  • Народ, что используете для предотвращения дубликатов при парсинге? попробовал использовать локальную базу, но по мере заполнения базы слишком сильно лагать скрипт начинает, если использовать файл для хранения в нём всех строк то поидее тоже лагать будет

  • 0 Votes
    17 Posts
    1750 Views
  • 0 Votes
    6 Posts
    1054 Views
  • 0 Votes
    3 Posts
    417 Views
  • 0 Votes
    2 Posts
    1192 Views
  • 0 Votes
    9 Posts
    3000 Views