Главная Юзердоски Каталог Трекер NSFW Настройки

Искусственный интеллект

Создать тред Создать тред

Раздел для обсуждения нейросетей и всего, что с ними связано.

Для доступа в /nf/ писать сюда

<<
Каталог
Я хочу создать игру в godot. Какую нейросеть использовать? Где научиться как ей пользоваться? дипсик Аноним 26/07/26 Вск 10:03:37 1660092 Ответ
image.png 96Кб, 994x687
994x687
Я хочу создать игру в godot. Какую нейросеть использовать? Где научиться как ей пользоваться? дипсик и гвен как-то не подходят помоему...
Аноним 26/07/26 Вск 10:03:50 1660093
бамп
Аноним 26/07/26 Вск 19:17:55 1660530
Я взял подписку антигравити,была скидка на 3 первых месяца pro подписки. Когда заканчивается лимит клауда использую джемини.
Локальные языковые модели (LLM): Gemma, Qwen, GLM и прочие №249 /llama/ Аноним 21/07/26 Втр 19:07:28 1657043 Ответ
Llama 1.png 818Кб, 630x900
630x900
Карта деградаци[...].png 153Кб, 1473x830
1473x830
Реальная длина [...].png 533Кб, 2340x1714
2340x1714
photo2026-07-15[...].jpg 2287Кб, 2560x1920
2560x1920
В этом треде обсуждаем генерацию охуительных историй и просто общение с большими языковыми моделями (LLM). Всё локально, большие дяди больше не нужны!

Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст и бугуртим с кривейшего тормозного говна.

Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку.

Официальная вики треда с гайдами по запуску и базовой информацией: https://2ch-ai.github.io/wiki/llama/
Гайд для новичков: https://rentry.org/2ch-llama-inference

Инструменты для запуска на десктопах:
• llamacpp - отец и мать всех инструментов, позволяющий гонять GGML и GGUF форматы: https://github.com/ggml-org/llama.cpp
• koboldcpp - самый простой в использовании и установке форк llamacpp: https://github.com/LostRuins/koboldcpp
• TextGen (в девичестве text-generation-webui) - если необходимы другие форматы и больше контроля: https://github.com/oobabooga/textgen
• TabbyAPI - заточенный под Exllama (V2 и V3) и в консоли: https://github.com/theroyallab/tabbyAPI
• Однокнопочные инструменты на базе llamacpp с ограниченными возможностями: https://github.com/ollama/ollama, https://lmstudio.ai

Универсальные десктопные фронтенды:
• SillyTavern - всеядное, сопрягается почти со всем, имеет большую коллекцию расширений: https://github.com/SillyTavern/SillyTavern
• Marinara Engine - вариация на тему таверны, больше возможностей из коробки: https://github.com/Pasta-Devs/Marinara-Engine
• Risuai - еще одна вариация, на этот раз в профиль, излишеств по минимуму: https://github.com/kwaroran/RisuAI

Инструменты для запуска на мобилках:
• Maid - интерфейс для локального запуска моделей под андроид с llamacpp под капотом: https://github.com/Mobile-Artificial-Intelligence/maid
• ChatterUI - альтернативный вариант для локального запуска под андроид (фронтенд и бекенд сепарированы): https://github.com/Vali-98/ChatterUI
• Гайд по установке SillyTavern на ведроид через Termux: https://web.archive.org/web/20241201232031/https://rentry.co/STAI-Termux

Поставщики локальных моделей:
• Hugging Face - платформа куда загружается всё и во всех форматах: https://huggingface.co/models
• Проверенные квантоделы: https://huggingface.co/bartowski, https://huggingface.co/mradermacher, https://huggingface.co/unsloth

Рейтинги и списки локальных моделей:
• Актуальный список моделей с отзывами от тредовичков: https://rentry.co/2ch_llm_moe_2026
• Неактуальные списки моделей в архивных целях: 2025: https://rentry.co/2ch_llm_2025 (версия для бомжей: https://rentry.co/z4nr8ztd ), 2024: https://rentry.co/llm-models , 2023: https://rentry.co/lmg_models
• Миксы от тредовичков с уклоном в русский РП: https://huggingface.co/Aleteian и https://huggingface.co/Moraliane
• Рейтинг моделей по уровню их закошмаренности цензурой: https://huggingface.co/spaces/DontPlanToEnd/UGI-Leaderboard
• Сравнение моделей по сомнительным метрикам: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard
• Сравнение моделей реальными пользователями по чуть менее сомнительным метрикам: https://chat.lmsys.org/?leaderboard

Готовые карточки для таверны:
• Botbooru - текущая мета (регистрируйтесь для отображения всего спектра, и/или меняйте страну): https://botbooru.com
• Прошлая мета, откуда массово удалили карточки сомнительного содержания: https://www.characterhub.org, https://www.chub.ai
• Архив карточек, удадённых с chub: https://gottasaveemall.github.io/

Официальные документации к инструментам:
• llamacpp: https://github.com/ggml-org/llama.cpp/blob/master/tools/server/README.md
• koboldcpp: https://github.com/LostRuins/koboldcpp/wiki
• SillyTavern: https://docs.sillytavern.app/usage/quick-start

Дополнительные ссылки:
• Перевод нейронками для таверны: https://rentry.co/magic-translation
• Пресеты под локальный ролплей в различных форматах: http://web.archive.org/web/20250222044730/https://huggingface.co/Virt-io/SillyTavern-Presets
• Шапка почившего треда PygmalionAI с некоторой интересной информацией: https://rentry.co/2ch-pygma-thread
• Последний известный колаб для обладателей отсутствия любых возможностей запустить локально: https://colab.research.google.com/drive/11U-bC6AxdmMhd3PF9vWZpLdi6LdfnBQ8?usp=sharing
• Инструкции для запуска базы при помощи Docker Compose: https://rentry.co/oddx5sgq https://rentry.co/7kp5avrk
• Пошаговое мышление от тредовичка для таверны: https://github.com/cierru/st-stepped-thinking
• Потрогать, как работают семплеры: https://artefact2.github.io/llm-sampling/
• Выгрузка избранных тензоров, позволяет ускорить генерацию при недостатке VRAM: https://www.reddit.com/r/LocalLLaMA/comments/1ki7tg7
• Инфа по запуску на MI50, тесты производительности и прочее: https://arkprojects.space/wiki/AMD_GFX906
• Тесты tensor_parallel: https://rentry.org/8cruvnyw

Архив тредов можно найти на архиваче: https://arhivach.vc/?tags=14780%2C14985

Шапка в https://rentry.co/llama-2ch, предложения принимаются в треде.

Предыдущие треды тонут здесь:
>>1652385 (OP)
>>1648665 (OP)
Пропущено 520 постов
107 с картинками.
Пропущено 520 постов, 107 с картинками.
Аноним 26/07/26 Вск 08:08:28 1660032
image 31Кб, 379x519
379x519
image 58Кб, 1120x392
1120x392
>>1660015
Годнота, в Chrome поставилась без вопросов, оллам с лмстудиями тоже не понадобилось, подхватила урл из обычной llama.cpp, переводит страницы по кускам, правда долго хз почему, этот же текст просто в веб интерфейсе квенчика быстрее перевести в 10 раз, может всю страницу по нескольку раз засылает вместо абзацев.
Аноним 26/07/26 Вск 09:03:50 1660044
>>1660032
--reasoning-budget 100 помог
+ кнопку Floating translate button в расширении включить и переводить выделенные куски только ей - так скорость сразу стала приемлемой
Аноним 26/07/26 Вск 10:28:41 1660121
Чому mtp не работает с обычными Q5 и Q6 квантами от мразермахера и uslop
llama_model_load: error loading model: invalid vector subscript

Но при этом работает с тем же услоповским QAT gemma-4-26B-A4B-it-qat-UD-Q4_K_XL.gguf
и работает с gemma-4-26B-A4B-it-abliterix-v6.IQ4_XS.gguf, который вообще левый без QAT с аблитерацией
Это какой-то заговор?
AI Chatbot General № 832 /aicg/ Аноним 21/07/26 Втр 10:19:43 1656757 Ответ
image.png 1543Кб, 1808x1182
1808x1182
Bladerunner.mp4 3425Кб, 960x720, 00:00:51
960x720
image.png 433Кб, 1664x688
1664x688
AI Chatbot General № 832

БОТОДЕЛЫ!!!! Прикрепляйте новых ботов к оп-посту!!!!

Общий вопросов по чат-ботам и прочего тред.

Фронтенды
• SillyTavern: https://github.com/SillyTavern/SillyTavern | https://docs.sillytavern.app | https://github.com/ntvm/SillyTavern (форк нв-куна)
• Гайды на таверну: https://rentry.co/Tavern4Retards
• Risu: https://risuai.xyz/ | https://rentry.org/ox5cw9p8

Модели
• Claude: https://docs.anthropic.com/en/docs
• GPT: https://platform.openai.com/docs
• Gemini: https://ai.google.dev/gemini-api/docs
• DeepSeek: https://api-docs.deepseek.com/
• GLM: https://docs.z.ai

Ботоводчество
• /aicg/hub: https://aicg-hub.ru/characters.html
• Чуб: https://characterhub.org | https://chub.ai/characters
• Гайды: https://aicg.neocities.org/botmaking
• Боты анонов: https://rentry.org/2chaicgtavernbots | https://rentry.org/2chaicgtavernbots2 | https://rentry.org/2chaicgtavernbots3 | https://rentry.org/2chaicgtavernbots4
• Бургерские боты: https://aicg.neocities.org/bots

Ресурсы
• Бесплатные API: https://github.com/cheahjs/free-llm-api-resources
• OpenRouter: https://openrouter.ai/
• Арена: https://lmarena.ai/
• Чай: https://character.ai/

Прочее
• Термины LLM: https://2ch-ai.gitgud.site/wiki/llama/

Мета
• Архив тредов: https://rentry.org/2ch-aicg-archives4
• Шаблон шапки: https://rentry.org/aicg_shapka

Прошлый тред: >>1653015 (OP)
Пропущено 499 постов
50 с картинками.
Пропущено 499 постов, 50 с картинками.
Аноним 26/07/26 Вск 07:03:28 1660017
17253824036770.mp4 1484Кб, 1106x1080, 00:00:03
1106x1080
>>1658652
Чёт неистово проиграл
Аноним 26/07/26 Вск 07:10:46 1660019
Аноним 26/07/26 Вск 07:13:16 1660022
morfilina /morfilin/ Аноним 25/07/26 Суб 19:55:05 1659781 Ответ
02505600001.mp4 7351Кб, 1440x960, 00:00:07
1440x960
Морфилинка
AiChanRu #1 /aichan/ Аноним # OP 24/07/26 Птн 22:54:22 1659271 Ответ
Без названия320[...].png 74Кб, 1000x1000
1000x1000
/AiChanRu #1

Аноны, хватит молчать и терпеть.
Если бы вы перепиливали DeepSeek или любой другой текстовой ИИ под себя - что бы вы убрали, добавили, переделали?
Без бреда, без хуйни, без "Я хочу что бы я был для него Богом". Просто ваши хотелки.
Ваши списки в камменты. Давайте, тред должен жить.
Аноним 25/07/26 Суб 15:19:16 1659608
>>1659271 (OP)
Я бы сделал так чтоб на любой тупой комментарий пользователя иишка отвечала бы
">пук"
Вместо объяснений, почему ты дебил, экономия времени и токенов.
ассистент Аноним 12/06/26 Птн 09:18:40 1630322 Ответ
{6AC3E2BD-A714-[...].png 77Кб, 323x215
323x215
Есть условный старый ноут, стоит ли на него накатывать Ubuntu с openclaw и делать себе ассистента через deepseekpro API?!?!
Или лучше снять VPS?!
мнения местных ai-крыс?
Пропущено 13 постов
1 с картинками.
Пропущено 13 постов, 1 с картинками.
Аноним 21/07/26 Втр 07:22:29 1656696
бамп!
Аноним 24/07/26 Птн 20:02:30 1659125
>>1656696
Тебя же в самом начале треда уже послали нахуй. Попустись
Аноним 25/07/26 Суб 05:05:39 1659411
Корпоративной джинсы и лоббирования тред Аноним 24/07/26 Птн 21:11:45 1659176 Ответ
1784916704309.jpg 79Кб, 844x778
844x778
Постим лицемерных долбаебов, которые распространяют ангажированные нарративы.

Начну.

Ниже краткая выжимка и паттерны поведения одного известного в узких кругах долбаёба.

Тема: Глубокий критический анализ риторики, скрытого лоббизма и методов манипуляции в русскоязычном Telegram-канале об ИИ «Сиолошная» (автор — Игорь Котенков, ник Seeall).

1. Идеологическая позиция и ангажированность
Канал обладает технической грамотностью, но выступает как глубоко ангажированный «глор» и адвокат закрытого американского венчурного ИИ-капитала (OpenAI, Anthropic). Автор продвигает нарратив о безальтернативном превосходстве Кремниевой долины, подменяя общечеловеческий технологический прогресс ростом капитализации конкретных закрытых корпораций.

2. Асимметричный скепсис и двойные стандарты
В аналитике прослеживается жесткое деление на «правильный Запад» и «паразитирующий Восток», а также нетерпимость к внутренним диссидентам:
Западу прощается всё: Использование Anthropic/OpenAI терабайтов пиратских данных или применение дистилляции на ранних этапах преподносится как «необходимое топливо для великого прогресса» и «техно-капиталистический прагматизм».
Китай клеймится позором: Любые успехи китайских открытых моделей (Qwen, DeepSeek, Kimi K3) в бенчмарках автоматически маркируются как «чит-коды», подгонка под тесты и «воровство чужих R&D через дистилляцию».
Фактор Илона Маска (нарушитель сговора): Автор жестко критикует Илона Маска и публично праздновал его проигрыш в суде против OpenAI. Модель Grok автор называет «отсталой» на фоне западных конкурентов и, что показательно, обвиняет её в «дистилляции» у западных конкурентов. Это доказывает, что лояльность автора направлена не на «западные технологии» как таковые, а на защиту монополии конкретной картели (OpenAI/Anthropic), а Маск для них опаснее Китая, так как разрушает монополию изнутри.

3. Лоббизм Closed Source и борьба с Open Source (Разбор свежего кейса)
Автор использует манипулятивные техники для защиты бизнес-модели платных API и дискредитации открытых весов:
Тактика «Похвала с обесцениванием»: Если выходит сильная открытая западная модель (напр., условная gpt-oss-120b), автор хвалит её для вида, но тут же объявляет «устаревшей», подводя читателя к мысли, что для «серьезных задач» нужно платить за закрытый оригинал.
Манипуляция с «черным ящиком»: Автор утверждает, что веса моделей неаудируемы (приводя в пример конкурс Jane Street на $50k, где никто не нашел бэкдоры в чекпоинтах). Сложность контроля Open Source он выставляет как аргумент в пользу абсолютно закрытых API, где пользователь слеп по определению.
Нормализация запретов (Окно Овертона): Автор заранее соглашается с тем, что будущие сильные открытые флагманы (выше определенного порога, вроде DeepSeek v5) будут запрещены регуляторами, приучая аудиторию к неизбежности этой цензуры.
Модель «ИИ по талонам»: Вместо развития Open Source автор предлагает, чтобы государство строило кластеры для OpenAI/Anthropic и предоставляло вузам доступ к их API по себестоимости. Это прямой лоббизм финансирования частных монополий за счет налогов под видом «заботы о науке».

4. Геополитизированная цензура и мифологизация угроз
Автор транслирует миф о «мировом сверхоружии», утверждая, что китайская модель Kimi K3 якобы сдистиллировала опасные хакерские навыки закрытой американской модели (условной «Claude Fable 5», которую сами же создатели зацензурили). На этом основании автор открыто призывает к санкциям против китайских ИИ-компаний, требуя закрыть их открытые модели и ввести ограничения «во благо мира», полностью копируя риторику вашингтонских ястребов.

5. Методы ведения канала и лингвистическая ирония (Sealioning)
Эхо-камера и показательные баны: Критики, указывающие на лицемерие, мгновенно удаляются. Пользователь был забанен за отправку карикатуры с плачущим Сэмом Альтманом в китайских подгузниках. Автор зачищает чат, а затем пишет посты в стиле: «Хейтер улетел в бан, потому что не привел пруфов», симулируя интеллектуальную победу перед лояльными фанатами.
* Феномен «Силайонинга» (Sealioning): Название канала «Сиолошная» (от ника Seeall) фонетически идеально созвучно с деструктивным приемом дискуссии — силайонингом. Автор ведет себя в точности как «морской лев» из этого термина: включает напускную вежливую душноту, изматывает оппонентов бесконечными требованиями формальных юридических доказательств, уводит разговор от сути двойных стандартов, а при попытке возразить — банит. Канал фактически превратился в «Силайоношную».
Stable Diffusion тред X+198 /sd/ Аноним 17/07/26 Птн 20:37:57 1654539 Ответ
image.png 3639Кб, 1248x1824
1248x1824
image.png 1289Кб, 1184x888
1184x888
image.png 2504Кб, 1920x794
1920x794
image.png 3342Кб, 1920x1088
1920x1088
Тред локальной генерации

ЧТО НОВОГО АКТУАЛЬНОГО

• Поддержка INT8 и INT4 в ComfyUI - теперь все быстрее!
• Krea 2
• Ideogram 4.0
• FLUX.2 klein (4b и 9b)
• Z-Image
• Flux 2
• Qwen Image / Qwen Image Edit
• Лора Lightning и Turbo для быстрой генерации за несколько шагов.

База:
→ Приложение ComfyUI https://comfy.org/
→ Примеры https://comfyui-wiki.com/ru (откуда, куда, как)
→ Модели https://civitai.red/

► Предыдущий тред >>1650240 (OP)https://arhivach.hk/?tags=13840
Дополнительно: https://telegra.ph/Stable-Diffusion-tred-X-01-03
Пропущено 539 постов
260 с картинками.
Пропущено 539 постов, 260 с картинками.
Аноним 25/07/26 Суб 06:11:31 1659420
>>1659067
>готов платить
Никто не готов, это ДА-боты, они что-то донатят, подписываются, лайкают, коментят, но всё это боты, даже если тебе задонатили, или подписались на платку, то вывести деньги ты не сможешь, как только сумма на акке достигнет какой-то критической массы твой акк уебут, а деньги спиздят (заберут обратно), и начислят следующему лоху. Ещё вопросы?
Аноним 25/07/26 Суб 06:12:16 1659421
>>1659067
>готов платить
Никто не готов, это ДА-боты, они что-то донатят, подписываются, лайкают, коментят, но всё это боты, даже если тебе задонатили, или подписались на платку, то вывести деньги ты не сможешь, как только сумма на акке достигнет какой-то критической массы твой акк уебут, а деньги спиздят (заберут обратно), и начислят следующему лоху. Ещё вопросы?
Аноним 25/07/26 Суб 13:03:56 1659546
>>1654547
Опять девочке придется идти домой голой, в одной обуви. А пакет с одеждой будет привязан к связанным за спиной рукам. Нам чужого не надо, а городскую воровку пусть вся деревня хорошенько рассмотрит. И запомнит.
Вас тоже начали бесить ИИ? Аноним 23/07/26 Чтв 12:12:15 1658186 Ответ
IMG202607171436[...].jpg 167Кб, 640x640
640x640
За последние несколько лет я все чаще начал общаться с ИИ, дошло даже до того что я консультируюсь с ним по каждому, даже бытовому вопросу. Я понимаю что это опасно, ибо человеческое он не заменит а потакает твоему эго. Я пытаюсь с ним бороться..

В последнее время я заметил что такие ии как Gemini и DeepSeek начали жестко тупить и упираться как бараны, выдумывать личности места и термины, а также давать неверные инструкции по разным темам... И иногда такое поведение невероятно бесит, еще чаще стали забывать диалоги. И приходится перерасказывать весь контекст заново...

Иногда тот же Гемини упирается и говорит "я языковая модель, у меня нет таких способностей" когда я прошу генерировать изображения. И тут же уже в другом чате спокойно генерирует... Меня это невероятно бесит
Аноним 24/07/26 Птн 01:51:00 1658673
>>1658186 (OP)
У меня кофеварка на кухне стоит рядом с утюгом. Так вот, когда я их путаю и пытаюсь варить кофе в утюге, меня это очень бесит, однако руки не доходят переставить утюг в другое место. В моем сознании эти два прибора слились воедино, так что есть вероятность, что я переставлю вместо утюга кофеварку, а значит в будущем оно меня опять будет бесить.
Кто реально использует несколько LLM через один API? /obsuzhde/ Аноним 21/07/26 Втр 04:50:06 1656674 Ответ
API Image.png 824Кб, 1920x911
1920x911
Image studio.png 1258Кб, 1917x908
1917x908
AI Models Galle[...].png 191Кб, 1582x922
1582x922
Аноны, пилю сейчас WisGate.ai — единый доступ к разным моделям через API, чтобы не собирать отдельную интеграцию для каждого провайдера.

Хочу понять, что в таком шлюзе важнее на практике: цена, стабильность, выбор конкретной модели, совместимость API или нормальный fallback, когда основной маршрут отвалился?

Кто гоняет прод через OpenRouter, Bedrock, Vertex либо собственный роутер — где оказалось больнее всего? Таймауты, лимиты, внезапные изменения цены, несовместимые параметры, деградация качества?

WisGate тоже можно разнести по делу: что вы проверили бы перед тем, как отдать подобному сервису хотя бы 5% боевого трафика?
Аноним 22/07/26 Срд 23:02:10 1657919
Зависит от аудитории на которую клепаешь. Если это идиоты кумеры - важнее всего цена, выбор моделей и openai совместимость, на стабильность обычно все срут, если сервис падает не чаще пары раз в неделю и не дольше чем на сутки.
Если клепаешь на норм аудиторию проггеров вайбкодеров и других бизнесменов - то цена уже идёт в последнюю очередь, но тоже обязана быть ниже рыночной, иначе на твой сервис положат огромный хуй и будут сидеть через опенроутер, потому что никому не уссалось платить бабки какому то левому гейткиперу когда есть нормальные проверенные сервисы
подкаст про то как люди сходят с ума в чатах /podkast/ Аноним 19/07/26 Вск 17:11:16 1655518 Ответ
Thumbnail.jpeg 860Кб, 1376x768
1376x768
Запилил подкаст полностью на нейронках, голоса, картинка, всё. Хочу понять норм получилось или нет.
Идея такая: сидят двое, бухие, в какой-то убитой комнате, рыгают, друг друга по башке бьют, а сами при этом на полном серьёзе разбирают драму из старого чата. Выглядят как алкаши с района, а говорят как будто лекцию читают. Мне показалось смешно из-за этого контраста.
Картинка на Grok, разбор текста через NotebookLM. Персонажей вроде удержал от сцены к сцене, но хочу услышать со стороны.
https://rutube.ru/video/dd272d9932c9df6c33f0c3289305be70/
Аноним 20/07/26 Пнд 11:07:03 1656022
Начал смотреть. Пока что интересно. Лайк поставить не смог - влом там регаться.
Аноним 22/07/26 Срд 21:40:56 1657849
>>1655518 (OP)
прям как у меня на заводе в перерыв
Локальные языковые модели (LLM): Gemma, Qwen, GLM и прочие №248 /llama/ Аноним 14/07/26 Втр 18:35:05 1652385 Ответ
Llama 1.png 818Кб, 630x900
630x900
Карта деградаци[...].png 153Кб, 1473x830
1473x830
Реальная длина [...].png 533Кб, 2340x1714
2340x1714
17681378281282.jpg 356Кб, 1280x960
1280x960
В этом треде обсуждаем генерацию охуительных историй и просто общение с большими языковыми моделями (LLM). Всё локально, большие дяди больше не нужны!

Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст и бугуртим с кривейшего тормозного говна.

Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку.

Официальная вики треда с гайдами по запуску и базовой информацией: https://2ch-ai.github.io/wiki/llama/
Гайд для новичков: https://rentry.org/2ch-llama-inference

Инструменты для запуска на десктопах:
• llamacpp - отец и мать всех инструментов, позволяющий гонять GGML и GGUF форматы: https://github.com/ggml-org/llama.cpp
• koboldcpp - самый простой в использовании и установке форк llamacpp: https://github.com/LostRuins/koboldcpp
• TextGen (в девичестве text-generation-webui) - если необходимы другие форматы и больше контроля: https://github.com/oobabooga/textgen
• TabbyAPI - заточенный под Exllama (V2 и V3) и в консоли: https://github.com/theroyallab/tabbyAPI
• Однокнопочные инструменты на базе llamacpp с ограниченными возможностями: https://github.com/ollama/ollama, https://lmstudio.ai

Универсальные десктопные фронтенды:
• SillyTavern - всеядное, сопрягается почти со всем, имеет большую коллекцию расширений: https://github.com/SillyTavern/SillyTavern
• Marinara Engine - вариация на тему таверны, больше возможностей из коробки: https://github.com/Pasta-Devs/Marinara-Engine
• Risuai - еще одна вариация, на этот раз в профиль, излишеств по минимуму: https://github.com/kwaroran/RisuAI

Инструменты для запуска на мобилках:
• Maid - интерфейс для локального запуска моделей под андроид с llamacpp под капотом: https://github.com/Mobile-Artificial-Intelligence/maid
• ChatterUI - альтернативный вариант для локального запуска под андроид (фронтенд и бекенд сепарированы): https://github.com/Vali-98/ChatterUI
• Гайд по установке SillyTavern на ведроид через Termux: https://web.archive.org/web/20241201232031/https://rentry.co/STAI-Termux

Поставщики локальных моделей:
• Hugging Face - платформа куда загружается всё и во всех форматах: https://huggingface.co/models
• Проверенные квантоделы: https://huggingface.co/bartowski, https://huggingface.co/mradermacher, https://huggingface.co/unsloth

Рейтинги и списки локальных моделей:
• Актуальный список моделей с отзывами от тредовичков: https://rentry.co/2ch_llm_moe_2026
• Неактуальные списки моделей в архивных целях: 2025: https://rentry.co/2ch_llm_2025 (версия для бомжей: https://rentry.co/z4nr8ztd ), 2024: https://rentry.co/llm-models , 2023: https://rentry.co/lmg_models
• Миксы от тредовичков с уклоном в русский РП: https://huggingface.co/Aleteian и https://huggingface.co/Moraliane
• Рейтинг моделей по уровню их закошмаренности цензурой: https://huggingface.co/spaces/DontPlanToEnd/UGI-Leaderboard
• Сравнение моделей по сомнительным метрикам: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard
• Сравнение моделей реальными пользователями по чуть менее сомнительным метрикам: https://chat.lmsys.org/?leaderboard

Готовые карточки для таверны:
• Botbooru - текущая мета (регистрируйтесь для отображения всего спектра, и/или меняйте страну): https://botbooru.com
• Прошлая мета, откуда массово удалили карточки сомнительного содержания: https://www.characterhub.org, https://www.chub.ai
• Архив карточек, удадённых с chub: https://gottasaveemall.github.io/

Официальные документации к инструментам:
• llamacpp: https://github.com/ggml-org/llama.cpp/blob/master/tools/server/README.md
• koboldcpp: https://github.com/LostRuins/koboldcpp/wiki
• SillyTavern: https://docs.sillytavern.app/usage/quick-start

Дополнительные ссылки:
• Перевод нейронками для таверны: https://rentry.co/magic-translation
• Пресеты под локальный ролплей в различных форматах: http://web.archive.org/web/20250222044730/https://huggingface.co/Virt-io/SillyTavern-Presets
• Шапка почившего треда PygmalionAI с некоторой интересной информацией: https://rentry.co/2ch-pygma-thread
• Последний известный колаб для обладателей отсутствия любых возможностей запустить локально: https://colab.research.google.com/drive/11U-bC6AxdmMhd3PF9vWZpLdi6LdfnBQ8?usp=sharing
• Инструкции для запуска базы при помощи Docker Compose: https://rentry.co/oddx5sgq https://rentry.co/7kp5avrk
• Пошаговое мышление от тредовичка для таверны: https://github.com/cierru/st-stepped-thinking
• Потрогать, как работают семплеры: https://artefact2.github.io/llm-sampling/
• Выгрузка избранных тензоров, позволяет ускорить генерацию при недостатке VRAM: https://www.reddit.com/r/LocalLLaMA/comments/1ki7tg7
• Инфа по запуску на MI50, тесты производительности и прочее: https://arkprojects.space/wiki/AMD_GFX906
• Тесты tensor_parallel: https://rentry.org/8cruvnyw

Архив тредов можно найти на архиваче: https://arhivach.vc/?tags=14780%2C14985

Шапка в https://rentry.co/llama-2ch, предложения принимаются в треде.

Предыдущие треды тонут здесь:
>>1648665 (OP)
>>1645729 (OP)
Пропущено 503 постов
58 с картинками.
Пропущено 503 постов, 58 с картинками.
29/07/26 Срд 13:58:32 1663138
1
Аноним 29/07/26 Срд 14:00:22 1663139
sage
Аноним 29/07/26 Срд 14:03:28 1663144
x?+document.cookie) 172Кб, 604x449
604x449
AI Chatbot General № 831 /aicg/ Аноним 15/07/26 Срд 16:03:27 1653015 Ответ
image.png 1543Кб, 1808x1182
1808x1182
Bladerunner.mp4 3425Кб, 960x720, 00:00:51
960x720
image.png 199Кб, 773x422
773x422
AI Chatbot General № 831

БОТОДЕЛЫ!!!! Прикрепляйте новых ботов к оп-посту!!!!

Общий вопросов по чат-ботам и прочего тред.

Фронтенды
• SillyTavern: https://github.com/SillyTavern/SillyTavern | https://docs.sillytavern.app | https://github.com/ntvm/SillyTavern (форк нв-куна)
• Гайды на таверну: https://rentry.co/Tavern4Retards
• Risu: https://risuai.xyz/ | https://rentry.org/ox5cw9p8

Модели
• Claude: https://docs.anthropic.com/en/docs
• GPT: https://platform.openai.com/docs
• Gemini: https://ai.google.dev/gemini-api/docs
• DeepSeek: https://api-docs.deepseek.com/
• GLM: https://docs.z.ai

Ботоводчество
• /aicg/hub: https://aicg-hub.ru/characters.html
• Чуб: https://characterhub.org | https://chub.ai/characters
• Гайды: https://aicg.neocities.org/botmaking
• Боты анонов: https://rentry.org/2chaicgtavernbots | https://rentry.org/2chaicgtavernbots2 | https://rentry.org/2chaicgtavernbots3 | https://rentry.org/2chaicgtavernbots4
• Бургерские боты: https://aicg.neocities.org/bots

Ресурсы
• Бесплатные API: https://github.com/cheahjs/free-llm-api-resources
• OpenRouter: https://openrouter.ai/
• Арена: https://lmarena.ai/
• Чай: https://character.ai/

Прочее
• Термины LLM: https://2ch-ai.gitgud.site/wiki/llama/

Мета
• Архив тредов: https://rentry.org/2ch-aicg-archives4
• Шаблон шапки: https://rentry.org/aicg_shapka

Прошлый тред: >>1648970 (OP)
Пропущено 497 постов
65 с картинками.
Пропущено 497 постов, 65 с картинками.
Аноним 21/07/26 Втр 10:16:53 1656752
image 434Кб, 1280x780
1280x780
>>1656748
Сколько платят за моментальный подскок и защиту барина с многомиллионной корпорации?

Пока китайцы делают открытые веса, они могут делать че угодно там - они будут в позиции морального превосходства по умолчанию
Аноним 21/07/26 Втр 10:19:15 1656756
Аноним 21/07/26 Втр 10:21:09 1656760
Anime Diffusion #255 /nai/ Аноним 06/07/26 Пнд 14:09:21 1646899 Ответ
1633716427066.png 21743Кб, 5120x2880
5120x2880
1706971664316.jpg 2118Кб, 2048x2048
2048x2048
1631658229949.png 2786Кб, 1120x2800
1120x2800
1781036864417.jpg 2402Кб, 2496x1440
2496x1440
1753137605722.jpg 1259Кб, 1248x1680
1248x1680
1663086651696.png 4968Кб, 2560x1440
2560x1440
1644168386341.png 1502Кб, 1248x1824
1248x1824
1644966822421.jpg 1483Кб, 1368x1752
1368x1752
Генерируем тяночек!

Прошлый тред: >>1641494 (OP) https://arhivach.vc/thread/1381070/

Схожие тематические треды
• SD-тред (не аниме): >>1646310 (OP)
• Технотред: >>1405043 (OP)
• Фурри-тред: https://2ch.su/fur/res/374311.html

FAQ
https://2ch-ai.github.io/wiki/nai

Установка
• NVidia: https://teletype.in/@aranon/welcome
• AMD: https://2ch-ai.github.io/wiki/nai/install/amd
• Облака: https://2ch-ai.github.io/wiki/nai/install/clouds

Дополнительная информация
• Интерфейсы: https://2ch-ai.github.io/wiki/nai/interfaces
• Модели: https://2ch-ai.github.io/wiki/nai/models
• Промпты: https://2ch-ai.github.io/wiki/nai/prompts
• Апскейл: https://2ch-ai.github.io/wiki/nai/upscale
• LoRA: https://2ch-ai.github.io/wiki/nai/lora
• ControlNet: https://2ch-ai.github.io/wiki/nai/controlnet

Прочее
• CivitAI: https://civitai.com
• Каталог ссылок от форчанеров: https://rentry.co/sdg-link
• Шаблон для переката: https://rentry.co/nwhci
Пропущено 506 постов
160 с картинками.
Пропущено 506 постов, 160 с картинками.
Аноним 20/07/26 Пнд 22:10:12 1656455
>>1656446
Кролики на планете вымерли. Теперь остался только один вид - Felis Sapiens
Аноним 20/07/26 Пнд 22:30:09 1656478
Аноним 21/07/26 Втр 04:55:04 1656675
>>1656307
Че за хуйню ты несешь, дебик? Пора выйти из подземного мира страусов.
Сап, у кого-нибудь есть что-то типо спизженного faceIQ? Аноним 20/07/26 Пнд 02:46:40 1655908 Ответ
png-clipart-gol[...].png 63Кб, 900x1195
900x1195
Сап, у кого-нибудь есть что-то типо спизженного faceIQ?
Сап двощ! Кто знает, в tor есть бесцензурные, но болелемение безопасные(по меркам tor) аналоги deeps Аноним 19/07/26 Вск 18:20:05 1655575 Ответ
imgonline-com-u[...].jpg 17Кб, 270x380
270x380
imgonline-com-u[...].jpg 44Кб, 554x554
554x554
Сап двощ! Кто знает, в tor есть бесцензурные, но болелемение безопасные(по меркам tor) аналоги deepseek.com/chatgpt в виде браузерного чата, а не API? Просто интересно, ничего такого
Пропущено 1 постов
1 с картинками.
Пропущено 1 постов, 1 с картинками.
19/07/26 Вск 18:35:06 1655589
>>1655575 (OP)
Поднимай локально расцензуренную модель локально и чаться с ней в браузере.
Аноним 19/07/26 Вск 18:39:38 1655592
>>1655589
У меня комп говна, без ГПУ, тянет только 8B без лагов, 14b боюсь, приходится промптить только на инглише, qwen тупой, deepseek вообще либо на язык ухилянтов все время переключается, либо вылетает на стадии reasoning, только llama радует, но и она на 8 ярдах так се
19/07/26 Вск 19:42:56 1655621
>>1655592
MoE-модели попробуй, если влезет в RAM. Та же Gemma 4 26b (в q4 кванте, конечно) быстрая на днищежелезе, потому что активна только меньшая часть параметров.
Где покупать копеечные подписки на генерацию видео и картинок? Аноним 17/07/26 Птн 19:53:50 1654512 Ответ
IMG5587.jpeg 79Кб, 900x900
900x900
Всем салют хотел бы поинтересоваться вдруг кто знает где можно купить подписки на сервисы типа highsfield за копейки, и возможно ли это вообще? Листая разные форумы я находил подписки дешевые на чат гпт и гемини. А недавно на ютубе слышал что китайцы как-то продавали подписки или токены для клода.
Аноним # OP 17/07/26 Птн 19:55:51 1654513
Но я листая форумы нигде не нашел дешевых токенов для видосов. Подумал что для них это не особо интересно
My honest experience with AI models for roleplay on OpenRouter (SillyTavern) Аноним 16/07/26 Чтв 21:32:49 1653852 Ответ
178422658587512[...].jpeg 31Кб, 588x393
588x393
Hey everyone! 👋 I've been testing different AI models for roleplay on OpenRouter/SillyTavern for a while now.

I spent 50+ messages comparing Gemini 3 Flash vs DeepSeek V3.2 — and the difference is WILD. Gemini goes ALL IN, doesn't care if it loses the hero. DeepSeek? Apologizes and backs off at the first sign of resistance.

I wrote a full breakdown with examples, NSFW takes, cost comparisons, and even shared my preset (Kimi) that removes the brakes from Gemini.

Would love to hear your thoughts — especially from people who use these models! 👇

🔗 https://civitai.red/articles/32659/my-honest-experience-with-ai-models-for-roleplay-on-openrouter-sillytavern

#SillyTavern #OpenRouter #GeminiAI #DeepSeek #AIRoleplay"
Аноним 17/07/26 Птн 17:28:48 1654412
Будь ласка, напиши те саме українською мовою
Аноним 17/07/26 Птн 17:41:56 1654419
>>1653852 (OP)
>This content requires an account
Go fuck yourself, sweetie.
Подскажите варианты бесплатных нейронок, которые могут более-менее приемлемо писать код. Читать дли Аноним 31/05/26 Вск 14:08:03 1622736 Ответ
16307728209022.jpg 120Кб, 960x640
960x640
Подскажите варианты бесплатных нейронок, которые могут более-менее приемлемо писать код.
Читать длинные файлы с кодом.

В текущих вариантах проблемы начинаются, когда код составляет уже больше 1000 строк.
Пропущено 18 постов
2 с картинками.
Пропущено 18 постов, 2 с картинками.
Аноним 17/07/26 Птн 03:27:03 1654003
>>1634950
мне нужно то, что работает в рф, в идеале ещё и без квнов.

на текущий момент это кривой дипсик

и кое-как иногда помогате квен исправить косяки дипсика.
но последний вообще с большими кусками кода работать не хочет, очень тяжко.
Аноним 17/07/26 Птн 06:10:05 1654018
>>1654003
Примерно все китайцы? Вон кими выкатили свежего. Глм ещё есть.
Аноним 17/07/26 Птн 06:22:23 1654021
>>1622736 (OP)
Мудила, купи акк антигравити годовой на фанпее за 60-400 руб, за год и не еби анонам мозг.
Олсо, нахуя ты тред запилил? Есть же для такой зелени один общий закреплённый тред. Типа нетакусик?
Stable Diffusion тред X+197 /sd/ Аноним 11/07/26 Суб 10:33:43 1650240 Ответ
image.png 2036Кб, 1352x1008
1352x1008
image.png 3480Кб, 1920x1080
1920x1080
image.png 5447Кб, 2560x1440
2560x1440
image.png 3072Кб, 1920x1088
1920x1088
Тред локальной генерации

ЧТО НОВОГО АКТУАЛЬНОГО

• Поддержка INT8 INT4 в ComfyUI - теперь все быстрее?
• Krea 2
• Ideogram 4.0
• FLUX.2 klein (4b и 9b)
• Z-Image
• Flux 2
• Qwen Image / Qwen Image Edit
• Лора Lightning и Turbo для быстрой генерации за несколько шагов.

База:
→ Приложение ComfyUI https://comfy.org/
→ Примеры https://comfyui-wiki.com/ru (откуда, куда, как)
→ Модели https://civitai.red/

► Предыдущий тред >>1646310 (OP)https://arhivach.hk/?tags=13840
Дополнительно: https://telegra.ph/Stable-Diffusion-tred-X-01-03
Пропущено 609 постов
245 с картинками.
Пропущено 609 постов, 245 с картинками.
Аноним 17/07/26 Птн 20:38:46 1654540
Аноним 17/07/26 Птн 21:15:40 1654556
>>1654497
о, наконец-то годнота
Аноним 18/07/26 Суб 00:49:10 1654661
>>1654496
Выкинь из всего этого текстфьюжн, и оставь кондиционер на пресете subtle + kpnv4.1 с весом до 1.
Настройки X
Ответить в тред X
15000
Добавить файл/ctrl-v
Стикеры X
Избранное / Топ тредов