Модуль для ИИ / Anthropic/ ChatGPT / StableDiffusion / DALLE / Llama локально

[moonsoon]

@maksimiron13 В первом сообщении темы описание какие значения для чего нужны.

[selector]

"code": "invalid_size",
"message": "The size is not supported by this model.",

Можете сказать тут баг или есть какой то нюанс? хотел згенерировать з розмером 1792*1024, хотяв условях пишет что должно быть хотяб одно из: one of ['256x256', '512x512', '1024x1024', '1024x1792', '1792x1024'] - 'size'",

[selector]

должно быть так: '{
"model": "dall-e-3",
"prompt": "a white siamese cat",
"n": 1,
"size": "1024x1024"
}'

[selector]

у вас без "model": "dall-e-3"

[selector]

model (‘dall-e-2’ or ‘dall-e-3’): This is the model you’re generating with. Be careful to set it to ‘dall-e-3’ as it defaults to ‘dall-e-2’ if empty.

[selector]

n (int): The number of images to generate. Must be between 1 and 10. Defaults to 1. For dall-e-3, only n=1 is supported. если добавлять dall-e-3 то n -1

[selector]

ище 2 интересных параметра: style (‘natural’ or ‘vivid’): The style of the generated images. Must be one of vivid or natural. Vivid causes the model to lean towards generating hyper-real and dramatic images. Natural causes the model to produce more natural, less hyper-real looking images. Defaults to ‘vivid’.
quality (‘standard’ or ‘hd’): The quality of the image that will be generated. ‘hd’ creates images with finer details and greater consistency across the image. Defaults to ‘standard’.

[moonsoon]

Дали максимально генерировал мне квадрат 512 на 512, другие размеры не знаю как отработают.

[maksimiron13]

Ку, в многопотоке такая ошибка вылетает, не знаешь как ее пофиксить?
"ReferenceError: Can't find variable: JPath"

[moonsoon]

@maksimiron13 Использовать модуль json в скрипте с любым действием.

[Ressive]

ChatGPT модуль не хочет считывать переменные в промте.
Он вроде как работает только с той инфой, которую руками нужно вбить в промт, как работать с переменными?

[moonsoon]

@Ressive Перепроверил, приложил пример тебе.
пример работы с чат гпт2.xml

[Ressive]

This post is deleted!

[Ressive]

@Ressive said in Модуль для ИИ:

ChatGPT модуль не хочет считывать переменные в промте.
Он вроде как работает только с той инфой, которую руками нужно вбить в промт, как работать с переменными?

Все норм, не работал на gpt-4-32k, на gpt-4 работает, если есть подписка.

[moonsoon]

@Ressive Использовал список ключей бесплатных, пользователь 1 делился оплаченным ключём я тестил что всё в порядке на других языковых моделях и больше не использовал.

[A Former User]

Кто то нагружать запросами GPT пробовал ?
Если к примеру 30 потоков за 1 минуту обратятся с разными вопросами на одном api, он дуба не даст ?

[moonsoon]

@lomaster я не грузил его. Запросы пойдут с разным телом, обрабатывает апи каждый отдельно. Может будет ограничение по одновременной отправке с бесплатного ака.

[A Former User]

Проверил многопоток, такая схема, работает но ставит в некую очередь, и отдает по частям.

Отправил в 1 секунду на 1 api сразу 30 запросов.
3 ответа пришло почти сразу.
И далее каждые 5-6 сек оставшиеся ответы так же пачками по 3 штуки.

Последние не хватило времени, и пришлось по ошибке заново спрашивать. Пока не забанило, если уйдет ключ в бан, буду использовать 3-4 чтоб не нагружать.

[moonsoon]

Добавил ИИ от anthropic.
Схема работы такая же как и с gpt. При работе с историей переписки, в случае если ответы больше 15 токенов, уходит на ошибку. Не разобрался почему, может у вас идеи есть по этому поводу.
Инструкцию по работе обновил в первом посте.
Видео по обновлению с Antropic

[Nikolas]

@moonsoon
Как бороться с мусором в ответе? Ведь ответ может иметь все возможный вид как захочет AI модель , может ответить :

Например так:
Result 4

или так:
four

или так:
4

или так:
2+2=4

конечно можно заранее все возможные варианты мусора записать и чистить ответ от мусора.
Что я и реализовал в одном моем скрипте, но там получилось сотни вариантов мусорных данных которые нужно удалить из ответа чтоб оставить только то что мне нужно.

Но это костыли которые пришлось делать пока более простого варика нету