Модуль для ИИ / Anthropic/ ChatGPT / StableDiffusion / DALLE / Llama локально

[A Former User]

@Artur-1 Который 20$ стоит ? Есть в РФ альтернатива не плохая, дороже правда но за то там сразу блок всех нейронок.

gptunnel.ru

Там запросы такие же почти, чуток руками поковырять и можно работать.

[Artur 1]

@mford7998a Interesting! But I guess this module doesn't support gemini...

[xkisffjsm]

Добрый вечер, помогите понять по какой причине не работает модуль . Пробовал разные модели выставлять и тд., ничего не помогло. Пробовал 3 разных аккаунта. Если у кого есть возможность можете проверить аккаунт - sk-TwM2VAn_y2FHe3awRysVbu-6iRbbpfh77m-BVDEkJxT3BlbkFJpbKtwpQqiwvzrdUE861HHq_zVf9HzwE_EwGPHGoIoA.

[moonsoon]

Привет, на твоём ключе квота закончилась или тарифный план не проплачен. You exceeded your current quota, please check your plan and billing details. For more information on this error, read the docs: https://platform.openai.com/docs/guides/error-codes/api-errors.

[daniel007]

Привет! Подскажи пожалуйста, отправлять в chatGPT фото дл ягенерации текстового ответа сейчас нельзя никак?

[moonsoon]

@daniel007 Привет, сейчас нет. Вот документация есть, https://platform.openai.com/docs/guides/vision/introduction можешь дополнить модуль новой функцией.

[adnre2012]

Классный модуль, у меня все работает - надо просто использовать платный ключ

настроил модуль чтобы чат анализировал название ролика на ютюбе и решал целесообразно ли ботам его смотреть или нет, так же оценивает популярность ролика по просмотрам и дате публикации- в итоге несколько кубиков заменили десятки и экономят кучу времени!

спасибо разработчику- крутой модуль!

[moonsoon]

Добавил использование локальной ИИ через LM Studio Видео работа с локальной ИИ Обновление версии в шапке.

[Nikolas]

@moonsoon Привет, подскажи плиз, а какая версия DALL-E от OpenAI используется в кубике?

Вроде у OpenAI самая последняя выпущенная версия DALL·E -> версия DALL·E 3
У тебя в кубике не указана версия DALLE, и когда генеришь картинку через апи твоим кубиков, то получается как будто масляными красками нарисовано, создается впечатление что через твой кубик идет запрос к старой версиии DALL-E от OpenAI
А так в принципе оч удобно и классно работает. Спасибо большое за модуль. Всех благ тебе!

[Nikolas]

@moonsoon
вобщем путем тестов понял что в модуле даже в версии 1.0 стоит запрос на DALLE явно версию ниже чем их последняя нормальная у них версия dalle3

@moonsoon Плиз добавьте в модуль в кубик для генерации юзая DALEE выбор версии.
Для этого просто PostData нужно указать вот что (по крайней мере в пост запросе так это делается):

"model": "dall-e-3",

Вот результаты моих тестов:
Это еще ничего получился котик на кресле юзая версию из модуля, а например когда про крипту генеришь картинки модулем, то там вообще в стиле Пикассо красками мажет ((

Приведу пример
Промпт White cat
-из модуля результат:

spoiler

• если басом из пост запроса сгенерить картинку обращаемся к их последней версии dalle-3 (настройки и результат):

spoiler

Еще результаты юзая обычный пост запрос к более новой версии чем в модуле (версии DALLE-3):
промпт: Man cryptoking

spoiler

промпт: White crypto cat

spoiler

[Nikolas]

@moonsoon подскажите, как какой мощности сервера (параметры железа) вы запускали локальную нейронку? ram\cpu\gpu?

[moonsoon]

@Nikolas На своем компе запускал, 16гб оперативки 4 ядра. На таких характеристиках плохо работало. 1 символ в 1-2 секунды.

[LUN]

у меня наблюдается такая проблема, что ИИ выводит смешанный ответ... часть на русском, часть на англ. может даже иероглифы запихать...
Вот пример...
Запрос: кто написал стих, у лукоморья дуб зеленый... ?
Ответ ИИ: Этот стих written by Russian poet Alexander Pushkin.

как сделать, чтобы ответ был только на русском языке?
Локальная модель

Или если пишет на одном языке... то ответы, это что-то с чем-то
Запрос: если 7х7 будет 49, то напиши Да
Ответ ИИ: Нет, это не так. 7х7 = 49, а не 7х7 = 49. Это потому, что 7х7 — это произведение двух чисел, и в этом случае число 7 умножается на себя дважды, поэтому получается 49.

Может это только мне такой вредный ИИ попался... Как найти с ним общий язык?!

[DiArt]

А планируется добавление в ChatGPT работу с файлами?

[moonsoon]

@DiArt Нет, не покупал ключ для разработки.

[moonsoon]

@LUN подбирай подходящую тебе модель для работы.

[berubah]

great module, do you plan to update with deepseek in the module ?

[moonsoon]

@berubah no

[sergerdn]

@berubah said in Модуль для ИИ / Anthropic/ ChatGPT / StableDiffusion / DALLE / Llama локально:

great module, do you plan to update with deepseek in the module ?

Hi, Deepseek has full support of the OpenAI API. You just need to change the hostname of the API.

[cruz]

@moonsoon описание оставляет желать лучшего. в версии 1.0 не понятно как слать сообщения без истории. Не понятно, что нужно указать в поля, если не 0. Было бы понятнее, если бы в модуле использовались True/False. И нет упоминаний, что список нужно очищать, если хотите слать без истории. Без списка не работает модуль - 6HISTORY_MSG is empty. Вот мой пример настройки для использования без истории