@Fox Привет.Я описывал задачу в этой теме https://community.bablosoft.com/topic/27417/вызов-многопоточной-функции
Дело в том,что я не могу вообще никак перевести свой скрипт на многопоток,у меня тупо,что в вызове функции в многопоток,что просто обычный многопоток,выполняет свою работу с данными по очереди,а не одновременно.И это очень сильно бьет по времени,а нужна именно скорость обработки.Все уже готово и скрипт рабочий полностью,но скорость обработки заставила воспользоваться многопотоком.Ранее,подобных проблем не замечал,а сейчас элементарную задачу не могу уже несколько дней решить.
Скрипт очень простой и работает без браузера вообще,в скрипте используется только одно взаимодействие с гет запросом.Пример скрипта я приложил в этой теме(но без запросов),он точно почти такой же,как и основа.
Логика такова:
1)Запускается скрипт (без всяких ресурсов изначально и данных) и создаются два ресурса.
2)Делается запрос на сайт,который обрабатывается в отдельной функции,т.е. обрабатывает полученные строки и записывает в ресурс.
3)Вызывается функция в несколько потоков,которая работает (должна работать) с каждой строкой из созданного ранее ресурса(уникальной)в отдельном потоке.Данные обрабатываются и записываются во второй ранее созданный ресурс.
4)Как только данные обработаны,ресурс переводится в список и список записывается в файл.Более ничего не делается.
-Сперва я думал,что проблема в создаваемых в ходе работы ресурсах,но нет.Создавал изначально ресурсы и то же самое было.
-Потом пробовал брать из файлов значения\потом создавать файлы по ходу и из них брать данные\сохранять напрямую пытался и.т.д
-Возможно думал стоят какие то ограничения из за слабого пк с 4 гб оперативы и взял сервер с 64 гб,но как обрабатывалась строка за 5 минут на моем пк,так же по скорости и на серваке.Ладно, с этим я уже ничего не поделаю из за регулярок в проекте,согласен.Но вот перевести на поток и хотя бы по 10 строк одновременно обрабатывать,очень бы помогло.А сейчас в любом случае,у меня,сколько бы потоков не выставил - работает все равно как один,просто по очереди разный поток берет свои данные(
Перенос из переменной в список
-
Подскажите самый стабильный метод, желательно через js, как можно сразу перенести переменную в список.
Проблема что получаю прокси в таком виде
в ответе. сохраняю в saved_content и далее через Парсить сроку в списке
Пытаюсь преобразовать в нормальный список и здесь вылезают проблемы. Если использую \n , то в списке появляются пробелы
тогда заменяю на \r\n , при сохранение в файл пробелы отсутствуют, но возникает другая проблема, при подсчете кол-ва элементов в списке, ответ отличается от того, сколько строк по факту в списке, примерно 10% строк не учитываются. Наверно потому что как-то криво Парсится строка и часть элементов вместе идут, я хз.
Короче какой ещё есть метод просто переменную в список перенести, чтобы там эти пробелы не возникали? Через js как это можно сразу сделать? -
@Zack9 said in Перенос из переменной в список:
Подскажите самый стабильный метод, желательно через js, как можно сразу перенести переменную в список.
Проблема что получаю прокси в таком виде
в ответе. сохраняю в saved_content и далее через Парсить сроку в списке
Пытаюсь преобразовать в нормальный список и здесь вылезают проблемы. Если использую \n , то в списке появляются пробелы
тогда заменяю на \r\n , при сохранение в файл пробелы отсутствуют, но возникает другая проблема, при подсчете кол-ва элементов в списке, ответ отличается от того, сколько строк по факту в списке, примерно 10% строк не учитываются. Наверно потому что как-то криво Парсится строка и часть элементов вместе идут, я хз.
Короче какой ещё есть метод просто переменную в список перенести, чтобы там эти пробелы не возникали? Через js как это можно сразу сделать?Без примера файла сложно сказать наверняка, но всё же попробуйте действие "Извлечь все данные" с кодом
\r?\nтак же можете использовать ресурс "из ссылки"
-
@Fox тогда сохраняется в таком виде
Для примера вот этот запрос https://raw.githubusercontent.com/mmpx12/proxy-list/master/socks5.txt на него приходит ответ. При попытке парсить строку \n рандомно вылезают пустые строки в списке, если \r\n пустых строк нет, но какие-то пробелы похоже присуствуют. Но если этот список я сохраню в файл и там через нотпад смотрю кол-во строк, и в басе выбираю действие Кол-во элементов, то результаты разные, хотя они должны совпадать.
Разные они потому что там какие-то лишние пробелы или что-то ещё. Как их удалить и привести к норм виду, либо сразу в норм виде сохранять я хз -
@Zack9 said in Перенос из переменной в список:
Для примера вот этот запрос https://raw.githubusercontent.com/mmpx12/proxy-list/master/socks5.txt
Если вы сохраните файл и откроете в текстовом редакторе, который может отобразить символы окончания строки, то увидете вот это:
Если решите загуглить, что же это значит, то найдёте вот такую информацию:
То есть регулярка, которую я предложил вам выше, должна работать, только действие нужно использовать "Разделить строку":
