Компания "СимбирСофт,ООО"
Мы ищем человека, который будет отвечать за качество и развитие LLM-решений в продукте — от первых гипотез до стабильной работы в продакшене.
Что предстоит
проектировать архитектуру LLM-фичей: single-prompt решения, цепочки промптов, сложные пайплайны;
управлять поведением модели через промпт-инжиниринг (CoT, few-shot, structured outputs, tool calling и др.), подбор параметров и работу с контекстом — без fine-tuning;
совместно с продактами продумывать логику диалогов и пользовательские сценарии;
выстраивать систему оценки качества: golden-сеты, валидационные выборки, метрики, бенчмарки, LLM-as-a-judge;
анализировать продакшн-логи и фидбек пользователей, находить системные проблемы и улучшать решения;
участвовать в организации разметки данных — писать гайды, проверять результаты, при необходимости размечать самостоятельно;
вместе с разработчиками доводить решения до полноценной интеграции в продукт.
Что важно для нас
Практический опыт работы с LLM от 1 года: реальные кейсы, а не только эксперименты.
Уверенный Python и привычка работать с данными (Jupyter, pandas, визуализация).
SQL и понимание, как собрать датасет под задачу и проверить гипотезу.
Опыт работы с OpenAI API или аналогами.
Понимание, как тестировать LLM-решения: регресс-проверки, offline-метрики, human eval, A/B-тесты.
Будет плюсом
Автоматическая оптимизация промптов (GEPA и другие подходы).
Опыт выстраивания процессов разметки и автоматизации evaluation.
Работа с observability и eval-инструментами (LangFuse, MLflow, LangSmith, DeepEval и др.).
Опыт построения агентных систем и RAG-архитектур.
Знакомство с фреймворками оркестрации (LangChain, LangGraph или аналоги).
Мы предлагаем
* Решение Министерства цифрового развития, связи и массовых коммуникаций РФ о предоставлении государственной аккредитации организации, осуществляющей деятельность в области информационных технологий от 10.03.2022 №АО-20220309-3771014210-3
25 Июня
QA Automation Engineer (Python)( Центральный банк Российской Федерации )
Казань
Компания "Центральный банк Российской Федерации" Региональный Центр Развития Казань приглашает присоединиться к команде профессионалов,...
26 Июня
Набережные Челны
от 225 000 руб.
Компания "Алабуга, ОЭЗ ППТ" Обязанности: Разработка и внедрение алгоритмов автономного полёта для внедрения на целевые устройства;...
26 Июня
Инженер компьютерного зрения/CV Engineer
Казань
от 127 500 руб.
Компания "Алабуга, ОЭЗ ППТ" Обязанности: Доработка существующих моделей: детектирование, захват и сопровождение объектов, определение...
26 Июня
Разработчик систем интеграции с LLM
Казань
Компания "КРЕДИТ ЕВРОПА БАНК" Чем предстоит заниматься: Ведение проекта интеграции с LLM от идеи до продакшн-деплоя: проектирование,...
30 Июня
Казань
от 225 000 руб.
Компания "Алабуга, ОЭЗ ППТ" Обязанности: Разработка и внедрение алгоритмов автономного полёта для внедрения на целевые устройства;...
Вакансия размещена в отрасли