Решил поставить локальный LLM для работы. Делать открытки-поздравилки, писать текст. 

В планах попробовать использовать эту фигню по удаленке. И если функционал позволяет замутить себе программку для перевода текста с экрана и с аудио. Ибо имеющиеся варианты либо не соответствуют требованиям, либо закрыты за пейволом, который в нашей ситуации даже оплатить нельзя при желании. А также попробовать привязать бота для чата со стримов. С теми же примерно целями.

Пока ставлю Gemma 4 — e4b от гугла. Ибо не сильно прожорливый для 1 видеокарты и умеет работать с графикой. Ну и так, потыкать, посмотреть. 

Ну придется еще сверху докачать отдельную платформу для загрузки моделей, которые умеют рисовать. Текстовая LLM такого делать не умеет. Эх, все в одной корзине пока не умещается, если ты не многомиллиардная компания-эксплуататор конечно)

----

Из того, что успел опробовать — поздравление коллеге в прозе на юбилей печатать умеет)

И также выдало совет по оптимизации битрейта для стримов и записи видео с заданными ограничениями размеров файла, времени и скорости сети. 

Плюс умеет работать без инета. Полезненько.

Поставлю на ноут версию полегче, чтобы на всякий случай при выезде по работе в ебеня, где плохо ловит инет, можно было хоть так «погуглить» информацию.