@Fox Привет.Я описывал задачу в этой теме https://community.bablosoft.com/topic/27417/вызов-многопоточной-функции
Дело в том,что я не могу вообще никак перевести свой скрипт на многопоток,у меня тупо,что в вызове функции в многопоток,что просто обычный многопоток,выполняет свою работу с данными по очереди,а не одновременно.И это очень сильно бьет по времени,а нужна именно скорость обработки.Все уже готово и скрипт рабочий полностью,но скорость обработки заставила воспользоваться многопотоком.Ранее,подобных проблем не замечал,а сейчас элементарную задачу не могу уже несколько дней решить.
Скрипт очень простой и работает без браузера вообще,в скрипте используется только одно взаимодействие с гет запросом.Пример скрипта я приложил в этой теме(но без запросов),он точно почти такой же,как и основа.
Логика такова:
1)Запускается скрипт (без всяких ресурсов изначально и данных) и создаются два ресурса.
2)Делается запрос на сайт,который обрабатывается в отдельной функции,т.е. обрабатывает полученные строки и записывает в ресурс.
3)Вызывается функция в несколько потоков,которая работает (должна работать) с каждой строкой из созданного ранее ресурса(уникальной)в отдельном потоке.Данные обрабатываются и записываются во второй ранее созданный ресурс.
4)Как только данные обработаны,ресурс переводится в список и список записывается в файл.Более ничего не делается.
-Сперва я думал,что проблема в создаваемых в ходе работы ресурсах,но нет.Создавал изначально ресурсы и то же самое было.
-Потом пробовал брать из файлов значения\потом создавать файлы по ходу и из них брать данные\сохранять напрямую пытался и.т.д
-Возможно думал стоят какие то ограничения из за слабого пк с 4 гб оперативы и взял сервер с 64 гб,но как обрабатывалась строка за 5 минут на моем пк,так же по скорости и на серваке.Ладно, с этим я уже ничего не поделаю из за регулярок в проекте,согласен.Но вот перевести на поток и хотя бы по 10 строк одновременно обрабатывать,очень бы помогло.А сейчас в любом случае,у меня,сколько бы потоков не выставил - работает все равно как один,просто по очереди разный поток берет свои данные(
Слишком медленная запись в файл
-
Пишу парсер под hideme. У меня есть два списка - в одном ip адреса, в другом порты. Мне нужно совместить эти два списка, чтобы получились прокси, и записать их в файл. Я использую такой цикл:
Но этот процесс занимает много времени. Есть ли способ сделать это быстро? -
@DrPrime если сначала формировать список а потом записывать этот список в файл, то по времени получается то же самое, что если каждую строчку записывать в файл.
нужно решение, чтобы процесс "склейки" занимал 1-3 секунды,
пока решение не найдено, использую руки и Sublime txt в котором оба списка склеиваются без проблемно хотелось бы получить автоматизированное решение, причем быстрое.
-
@Antonio даже если можно, то смысл какой?
таким образом можно попробовать и bat-ник просто запустить из BASа, который запустить Sublime, далее скрипт внутри Sublime обработает что надо и сохранит. Но это гемор же какой-то.хочется решение найти которе не будет выходить за рамки BAS
-
@DrPrime если сначала формировать список а потом записывать этот список в файл, то по времени получается то же самое, что если каждую строчку записывать в файл.
Вы не правы. Если из двух списков формировать третий, то все операции будут происходить в оперативке, грубо говоря, а к винту BAS будет обращаться один раз, записывая третий список. Схему утрировал для наглядности.
В режиме запуска 100к строчек обработает за секунду.
-
@foreva123 Вот тестовый скрипт, он склеивает списки. Вот два текстовых файла на 100к строк.
нужно склеить два списка, в каждом по 100к строчек, получается очень долго
Скрипт в режиме запуска соединяет оба списка за 5 секунд:
-
Вот два текстовых файла на 100к строк.
В Вашем примере какое было количество строчек в каждом списке?
Два текстовых файла, в каждом 100 000 строк, скрипт берёт первую строку из первого файла, через пробел добавляет первую строку из второго файла, сохраняет в список, пройдя все строки, сохраняет список в третий файл.
Единственно, я пробовал в режиме Записи, возможно это критично было
Я не просто так везде указывал, что запускать надо в режиме запуска.
-
@foreva123 Пожалуйста. Поблагодарить здесь можно кнопочкой
