@Fox Привет.Я описывал задачу в этой теме https://community.bablosoft.com/topic/27417/вызов-многопоточной-функции
Дело в том,что я не могу вообще никак перевести свой скрипт на многопоток,у меня тупо,что в вызове функции в многопоток,что просто обычный многопоток,выполняет свою работу с данными по очереди,а не одновременно.И это очень сильно бьет по времени,а нужна именно скорость обработки.Все уже готово и скрипт рабочий полностью,но скорость обработки заставила воспользоваться многопотоком.Ранее,подобных проблем не замечал,а сейчас элементарную задачу не могу уже несколько дней решить.
Скрипт очень простой и работает без браузера вообще,в скрипте используется только одно взаимодействие с гет запросом.Пример скрипта я приложил в этой теме(но без запросов),он точно почти такой же,как и основа.
Логика такова:
1)Запускается скрипт (без всяких ресурсов изначально и данных) и создаются два ресурса.
2)Делается запрос на сайт,который обрабатывается в отдельной функции,т.е. обрабатывает полученные строки и записывает в ресурс.
3)Вызывается функция в несколько потоков,которая работает (должна работать) с каждой строкой из созданного ранее ресурса(уникальной)в отдельном потоке.Данные обрабатываются и записываются во второй ранее созданный ресурс.
4)Как только данные обработаны,ресурс переводится в список и список записывается в файл.Более ничего не делается.
-Сперва я думал,что проблема в создаваемых в ходе работы ресурсах,но нет.Создавал изначально ресурсы и то же самое было.
-Потом пробовал брать из файлов значения\потом создавать файлы по ходу и из них брать данные\сохранять напрямую пытался и.т.д
-Возможно думал стоят какие то ограничения из за слабого пк с 4 гб оперативы и взял сервер с 64 гб,но как обрабатывалась строка за 5 минут на моем пк,так же по скорости и на серваке.Ладно, с этим я уже ничего не поделаю из за регулярок в проекте,согласен.Но вот перевести на поток и хотя бы по 10 строк одновременно обрабатывать,очень бы помогло.А сейчас в любом случае,у меня,сколько бы потоков не выставил - работает все равно как один,просто по очереди разный поток берет свои данные(
[BUG] Удаление дубликатов в списке. RangeError: Maximum call stack size exceeded
-
В списке 800к строк, при вызове функции Удалить дубликаты получаю
RangeError: Maximum call stack size exceeded. во время выполнения действия
так и задумано, ограничение , большие списки нельзя очистить на дубли ?
или оформлять баг с примером?upd
Все таки это баг, который приводит к дальнейшим проблемам. Не возможно в принципе работать с большими списками в режиме "Запись". Не удалить, не добавить, после переполнения стека работать в режиме "Запись" уже не возможно. -
Если разово сделать то через, например, тот же ацесс можно за 5 секунд удалить все дубликаты. А если на постоянку и через бас надо, тогда не подскажу)
-
А, так и думал, это только в режиме записи ошибка, в запуске нет.
-
upd
Все таки это баг, который приводит к дальнейшим проблемам. Не возможно в принципе работать с большими списками в режиме "Запись". Не удалить, не добавить, после переполнения стека работать в режиме "Запись" уже не возможно. -
Режим записи в первую очередь предназначен для создания и редактвирования проектов, а не для работы в них) Удалось получить подвисание панели сценария при работе со списком около 900к, которое длится в моем случае около 3 минут, но к ошибке не приводит. Так часто происходит при работе с большими объемами текста в режиме записи.
Если вам все таки необходимо работать с такими объемами в записи, при тестировании я заметил одну особенность, которая возможно поможет вам. Если выполнять все действия, связанные со списком с помощью зеленой кнопки или "Выполнить до этого действия", то подвисание не возникает:
1tx.webm
2tx.webmВозможно у вас есть ошибка, а у меня нет, из-за длины строк в списке? Какой длины у вас строки?
-
@m4zuper said in [BUG] Удаление дубликатов в списке. RangeError: Maximum call stack size exceeded:
Возможно у вас есть ошибка, а у меня нет, из-за длины строк в списке? Какой длины у вас строки?
около 100 символов
уже переключил на DB Sql, хотелось обойтись без, но это боль