Инженер по интеграции больших языковых моделей (Удаленно - По контракту)

Обзор роли

IMP Intelligence — частная компания, занимающаяся данными о заработной плате. Мы ведем собственную структурированную базу данных с информацией о компенсационных бенчмарках по США, Великобритании и Европе. Наша платформа используется известными компаниями в сфере финансовых услуг, поэтому работа должна быть точной, надежной и готовой к промышленному использованию.

Мы создаем решение на основе искусственного интеллекта, позволяющее клиентам отправлять запросы на естественном языке к нашей базе данных о заработной плате и получать точные форматированные результаты бенчмаркинга (например, диапазоны перцентилей). Наш фронтенд для клиентов построен на платформе Bubble и останется в Bubble, но бэкенд необходимо разработать отдельно вне Bubble (на основе SQL) и интегрировать через API. Система аутентификации и ограниченного доступа уже реализована в нашем портале.

Это удаленная позиция по контракту. Мы ищем одного человека, который полностью возьмет на себя реализацию проекта с минимальным сопровождением.

Обязанности:

• Разработать бэкенд-сервис для подключения наших структурированных данных о заработной плате к большой языковой модели (LLM) через API (например, GPT-4, Claude или другую подходящую модель) для поддержки запросов на естественном языке
• Реализовать надежный механизм извлечения данных (например, преобразование естественного языка в структурированный запрос), точно извлекающий информацию из нашей закрытой базы данных
• Создать собственный бэкенд и SQL-уровень данных (вне Bubble) и предоставить API, к которому может подключиться наш фронтенд в Bubble (конечные точки для ввода запросов и форматированного вывода)
• Возвращать чистые, готовые к использованию клиентом результаты бенчмаркинга (на экране; экспорт в PDF является преимуществом)
• Реализовать безопасное поведение в случае отсутствия прямых данных (например, «недостаточно данных» или четко обозначенные диапазоны-заменители) с ограничениями, предотвращающими галлюцинации
• Убедиться, что решение готово к эксплуатации: стабильная производительность, четкая обработка ошибок и поддерживаемый код
• Четко сообщать о прогрессе и компромиссах неспециалисту в предметной области (объяснения на простом английском)

Требования (обязательные)

• Подтвержденный опыт создания приложений на основе больших языковых моделей (LLM), подключенных к структурированным базам данных (например, LangChain, LlamaIndex, паттерны RAG, рабочие процессы NL → SQL и т.д.)
• Вы запустили соответствующий продукт и можете это подтвердить (живой продукт, репозиторий или демо-версия с пояснениями)
• Опыт создания backend API (REST), интегрируемых с внешними фронтендами (опыт работы с API, совместимым с Bubble, является преимуществом)
• Способность работать самостоятельно и нести ответственность за реализацию (требования → разработка → итерации → запуск)
• Сильные навыки письменной и устной коммуникации на английском языке

Дополнительные преимущества

• Опыт создания и шаблонизации PDF-отчетов
• Опыт работы с закрытыми/проприетарными наборами данных и реализации ограничений для предотвращения галлюцинаций