Дообучення (Fine-Tuning) мовної моделі Gemini

Ми надаємо fine-tuning для моделей сімейства Gemini через Vertex AI та Google AI Studio. Наш досвід включає налаштування як для Gemini 1.5 Flash і 1.5 Pro, так і для нових версій Gemini 2.x. Vertex AI — production-grade платформа з MLOps-інфраструктурою: управління версіями, моніторинг та інтеграція з Google Cloud. Ми гарантуємо якість завдяки строгій валідації даних та оптимізації гіперпараметрів. Отримайте консультацію для оцінки вашого проекту — ми складемо детальний план дообучення з урахуванням ваших даних і вимог до latency.

Fine-tuning доступний двома способами: через Google AI Studio для швидких експериментів та через Vertex AI Supervised Fine-Tuning для production-навантажень. Перший підходить для прототипування з малим датасетом, другий — для enterprise-проектів з повним контролем гіперпараметрів та SLA. Різниця в рівні управління критична: на Vertex AI ви керуєте версіями моделей через Model Registry, а моніторинг метрик у реальному часі дозволяє одразу виявити дрейф даних.

Як підготувати дані для fine-tuning Gemini?

Gemini fine-tuning приймає дані у форматі JSONL, де кожен рядок — один приклад розмови. Мінімальний обсяг: 100 прикладів. Рекомендований: 500–5000. Максимальний розмір датасету: 1 ГБ. Приклад для задачі класифікації:

{ "contents": [ { "role": "user", "parts": [{"text": "Класифікуй звернення клієнта за категорією: 'Не можу увійти в особистий кабінет'"}] }, { "role": "model", "parts": [{"text": "{\"category\": \"authentication\", \"priority\": \"high\", \"department\": \"tech_support\"}"}] } ] } 

Важно враховувати баланс класів та уникати дублікатів. Ми проводимо EDA-аналіз датасету перед навчанням — це запобігає перекосу в бік частих категорій. Для мультимодальних задач додаємо зображення у форматі base64.

Чому Vertex AI оптимальний для продакшену?

Vertex AI Supervised Fine-Tuning дає повний контроль: вибір гіперпараметрів, версіонування через Model Registry, інтеграція з Vertex AI Pipelines. На відміну від Google AI Studio, тут доступні SLA та моніторинг. На практиці це означає стабільну якість при масштабуванні. Порівняння платформ за ключовими критеріями:

Vertex AI забезпечує в 5 разів більш детальний моніторинг метрик навчання та інференсу, що критично для compliance-вимог.

Як запустити fine-tuning за допомогою Vertex AI SDK?

import vertexai from vertexai.tuning import sft vertexai.init(project="my-project", location="us-central1") sft_tuning_job = sft.train( source_model="gemini-1.5-flash-002", train_dataset="gs://my-bucket/train.jsonl", validation_dataset="gs://my-bucket/val.jsonl", epochs=5, adapter_size=4, # LoRA rank learning_rate_multiplier=1.0, tuned_model_display_name="gemini-flash-support-classifier" ) print(sft_tuning_job.tuned_model_endpoint_name) 

Використання LoRA-адаптерів (adapter_size — rank) значно знижує витрати порівняно з повним fine-tuning. Час навчання: від 30 хвилин до кількох годин. Детальніше в документації Vertex AI.

Мультимодальний fine-tuning: робота із зображеннями

Ключова перевага Gemini — нативна мультимодальність. Fine-tuning підтримує приклади із зображеннями:

{ "contents": [ { "role": "user", "parts": [ {"inline_data": {"mime_type": "image/jpeg", "data": "...base64..."}}, {"text": "Визнач дефект на зображенні деталі"} ] }, { "role": "model", "parts": [{"text": "{\"defect_type\": \"crack\", \"location\": \"top_left\", \"severity\": \"critical\"}"}] } ] } 

Це відкриває задачі інспекції якості, аналізу медичних знімків, класифікації документів за візуальними ознаками. Для кожного зображення вказуємо mime_type та base64-рядок.

Практичний кейс: промислова інспекція зварних швів

Задача: класифікація дефектів зварних швів за фотографіями. Датасет: 2400 зображень з розміткою (7 класів). До fine-tuning (Gemini 1.5 Flash з детальним промптом): accuracy 67%, високий рівень хибних спрацювань на клас «норма». Після fine-tuning (5 епох, adapter_size=8): accuracy 91%, F1 за критичними дефектами 0.94. Час інференсу без змін (~800мс на зображення). Приріст accuracy склав 24 процентних пункти, що суттєво знижує кількість ручних перевірок.

Як оцінити якість донавченої моделі?

Після навчання ми проводимо A/B-тестування: порівнюємо базову модель з fine-tuned на відкладеній вибірці. Метрики: accuracy, precision, recall, F1 — залежно від задачі. Для задач генерації використовуємо BLEU, ROUGE або людську оцінку. Також вимірюємо latency p99 та token throughput на Vertex AI Endpoint. Результати фіксуємо у звіті, який ви отримуєте разом із моделлю.

Що входить у роботу?

• Аналіз та підготовка датасету: очищення, балансування класів, розмітка.
• Навчання моделі: підбір гіперпараметрів, LoRA-рангів, моніторинг метрик.
• Тестування: оцінка на відкладеній вибірці, A/B-тестування в продакшені.
• Інтеграція: розгортання через Vertex AI Endpoint, налаштування моніторингу.
• Документація: звіт про метрики, керівництво з експлуатації.

Строки проекту

Ми гарантуємо прозорість на кожному етапі. Отримайте консультацію — оцінимо ваш проект та запропонуємо оптимальний план.

Джерело: офіційна документація Google Vertex AI