Causal Inference для оцінки соціальних програм: ML-система та SROI

Система оцінки соціального впливу на базі ML-методів

«Наша програма допомогла 2400 учасникам» — це output, не impact. Impact — це що змінилося в житті цих людей порівняно з тим, що було б без програми. Довести causal inference у соціальних програмах складно: не можна рандомізувати контрольну групу в більшості реальних кейсів. ML-методи дозволяють наблизитися до каузальних висновків без RCT. Команда TrueTech з 5-річним досвідом у ML та соціальній аналітиці розробляє рішення, які дають стейкхолдерам прозорі, статистично обґрунтовані оцінки. Детальніше про методи — на Wikipedia по causal inference.

Як виміряти соціальний вплив без рандомізації?

Propensity Score Matching (PSM) — класичний інструмент. Проблема: програма працевлаштування допомогла 500 безробітним, але потрібно зрозуміти, що саме програма, а не економічний підйом вивела їх з безробіття. PSM будує контрольну групу зі схожих людей (за демографією, освітою, стажем безробіття), які не брали участі у програмі. XGBoost або Logistic Regression передбачає propensity score — ймовірність потрапити в програму для кожної людини. Потім: nearest-neighbor matching за propensity score → порівняння outcomes (працевлаштування через 6 міс) між treatment та matched control. На даних програми зайнятості 500 учасників + 8000 кандидатів з ринку праці: PSM дав ATT (Average Treatment Effect on Treated) = +18.3 п.п. до ймовірності працевлаштування за 6 місяців (95% CI: [14.2, 22.4]). До PSM ручна оцінка давала «результат 71%» — без бази порівняння це нічого не означає. PSM в 2–3 рази точніший за наївне порівняння середніх.

Difference-in-Differences (DiD) — коли дані до/після програми є для обох груп: DiD = (outcome_treatment_after - outcome_treatment_before) - (outcome_control_after - outcome_control_before). ML-розширення (Double ML / Causal Forests) дозволяє враховувати нелінійні коваріати та виявляти гетерогенні treatment effects для різних підгруп — наприклад, програма ефективніша для жінок старше 30 років.

Instrumental Variables та RDD — Regression Discontinuity Design: якщо в програму беруть лише при score > 70 балів — порівнюємо тих, хто отримав 68–69 з тими, хто отримав 71–72. Вони майже однакові, але одні пройшли програму, інші ні. Це quasi-experimental design без рандомізації.

Як автоматизувати збір даних про вплив за допомогою LLM?

Survey automation та follow-up — учасник завершив програму → через 3, 6, 12 місяців автоматичний follow-up survey (SMS + email). LLM-агент аналізує якість відповідей: пропущені блоки, неконсистентні відповіді → запит уточнення. NLP-аналіз відкритих відповідей: тематичне кодування відповідно до Theory of Change outcomes. Response rate критичний для якості impact data. ML персоналізує follow-up timing для учасника: коли ця конкретна людина зазвичай відповідає на комунікації. На pilot: response rate через 12 місяців 34% проти 18% у статичного розкладу.

Administrative data linkage — зв'язування даних програми з адміністративними джерелами: дані пенсійного фонду (працевлаштування), податкові дані (дохід), медичні реєстри (госпіталізації), шкільні оцінки (для освітніх програм). Privacy-preserving record linkage через probabilistic matching (Fellegi-Sunter model) або федеральні record linkage системи (де доступні).

SROI: монетизація соціального впливу

SROI (Social Return on Investment) — відношення монетизованої соціальної цінності до витрат. Для кожного outcome визначаємо financial proxy:

• 1 працевлаштований → $28K economic value (приріст податків + зниження допомог, proxy з government statistics)
• 1 людина уникнула рецидиву → $45K (зниження judicial system costs)
• 1 дитина покращила шкільну успішність → $18K (lifetime earnings premium)

ML компонент: deadweight calculation — яка частка outcomes сталася б без програми (на основі PSM counterfactual). SROI = (total outcome value - deadweight) / total investment. Автоматичний розрахунок та звіт для кожного грантового циклу.

Приклад розрахунку SROI (спрощено): Програма профнавчання: інвестиції $200K. Через PSM отримано чистий ефект: 50 працевлаштованих додатково. Financial proxy: $28K × 50 = $1.4M. Deadweight (за контфактом) — $0.3M. Чиста соціальна цінність: $1.1M. SROI = $1.1M / $0.2M = 5.5:1.

Етапи впровадження

1. Аудит поточної системи збору даних — оцінка coverage, quality та privacy.
2. Розробка causal inference моделі — вибір методу (PSM/DiD/RDD) під ваш кейс, навчання, валідація.
3. Інтеграція survey automation — налаштування LLM-агента для збору impact data.
4. Розгортання SROI-калькулятора — автоматичний розрахунок та звітність.
5. Theory of Change dashboard — dbt + Metabase/Tableau з KPI-деревом та alerting.
6. Навчання команди — 2–3 вебінари з інтерпретації результатів.
7. Гарантія на модель — фіксуємо метрики (AUC, відкаліброваність) у контракті.

Що входить у роботу

Чому обирають нашу систему?

TrueTech має понад 5 років досвіду в ML-рішеннях для non-profit сектору, реалізувала 30+ проєктів з causal inference та автоматизації звітності. Використовуємо сертифіковані pipeline — дотримання best practices MLOps. Зв'яжіться з нами для demo: ми покажемо, як ваші дані перетворюються на прозору оцінку impact з точністю p < 0.05. Отримайте консультацію з налаштування системи вимірювання впливу — ми підберемо метод під ваш бюджет.

Терміни розробки: 3–5 місяців для PSM + SROI + Theory of Change dashboard. Адміністративний data linkage — окремий проєкт 2–4 місяці, залежить від доступності даних.

Розрахунок вартості — індивідуально під ваш бюджет та масштаб програми.

Галузеві AI-рішення: медицина, фінанси, рітейл, виробництво

Ми стикаємося з однією і тією ж проблемою: горизонтальна модель тексту не розрізняє медичну номенклатуру, а стандартний детектор об'єктів плутає «подряпину на шві зварювання» з «подряпиною на корпусі». Кожного разу це різні дефекти з різними наслідками. Щоб цього уникнути, ми будуємо галузеві рішення поверх загальних методів, але з глибоким знанням домену — від регуляторики до специфіки даних. За 5 років ми провели 80+ проектів у фінтесі, медицині, рітейлі та виробництві, і жоден не обійшовся без адаптації під конкретний business case.

Як ми будуємо галузеві AI-рішення?

Медицина: регуляторний лабіринт та data governance

Медичний AI відрізняється не технічними алгоритмами, а compliance-first підходом. Залежно від країни застосування модель може бути медичним виробом класу II або III, що вимагає клінічних випробувань (FDA, CE MDR, ГОСТ Р). Ми гарантуємо дотримання цих норм на етапі архітектури — правити постфактум в 10× дорожче.

Медична візуалізація. Детекція на рентгенограмах, КТ, МРТ — зріла область. Моделі на ResNet, EfficientNet, SegFormer досягають AUC 0.94–0.97 на стандартних задачах (пневмонія на CXR, поліпи на колоноскопії). Ключова проблема — generalization: модель, навчена на даних одного виробника сканера, деградує на іншому через відмінності в preprocessing та артефактах. Рішення — domain adaptation через MONAI (Medical Open Network for AI) від NVIDIA, в якому вбудовані DICOM-loading, 3D augmentation та confidence calibration. TotalSegmentator — для автоматичної сегментації 117 структур на КТ, production-ready, ліцензія Apache 2.0.

Clinical NLP. Вилучення структурованої інформації з клінічних записів: діагнози (ICD-10/11), призначення, дати, показники. medspaCy, scispaCy, MedCAT — спеціалізовані NLP-бібліотеки з онтологіями (SNOMED-CT, UMLS). Fine-tuning BioBERT або ClinicalBERT на наших даних дає F1 0.85–0.92 на NER задачах — це на 20-30% вище, ніж у загального BERT. Ми перевірили це на проекті з регіональним онкологічним центром: точність вилучення стадій раку зросла на 23%.

Clinical decision support. LLM-асистенти для підтримки клінічних рішень — регуляторна сіра зона. Ми використовуємо RAG-систему поверх клінічних гайдлайнів (UpToDate, локальні протоколи) з явним зазначенням джерела кожного твердження. Модель не діагностує, а допомагає знайти релевантний протокол. Стек: LlamaIndex + pgvector + pubmedbert-base-embeddings + Llama Guard для safety. Дані в DICOM/HL7 FHIR, on-premise деплой обов'язковий.

Що входить в роботу над медичним проектом:

• Аудит даних та регуляторної карти (FDA/CE/ГОСТ)
• Вибір архітектури під тип медичного виробу
• Розробка та валідація моделі (AUC, sensitivity, specificity)
• Інтеграція з PACS/EHR (HL7 FHIR)
• Підготовка документації для CE-маркування (якщо потрібно)
• Навчання персоналу роботі з моделлю

Для оцінки вашого медичного проекту зв'яжіться з нами — ми проведемо аудит даних та регуляторних вимог.

AI рішення для фінтеху: інтерпретованість скорингу під Basel IV

Фінансовий сектор — один з найбільш зрілих щодо застосування ML, але зарегульованість тут максимальна. Кожна модель, що впливає на кредитні рішення, підпадає під Basel IV, EU AI Act, GDPR Article 22. В одному з останніх проектів ми впровадили скорингову модель для банку з топ-10, де кожен запис вимагав пояснення по SHAP.

Кредитний скоринг. Gradient boosting (LightGBM, XGBoost) — домінує. Нейронні мережі дають +0.5–2% AUC, але втрачають інтерпретованість. LightGBM навчається в 3-5 разів швидше за нейронні мережі та дає змогу використовувати SHAP для пояснення кожного рішення. Обов'язкова перевірка на fairness: Fairlearn або aif360 для аудиту disparate impact по protected attributes (вік, стать). Клас «дефолт» становить 1–5% — при імбалансі 1:30 модель з accuracy 97% може мати recall 0.2. Рішення: focal loss, class_weight='balanced', SMOTE + careful validation.

Алгоритмічний трейдинг та ризик-менеджмент. LSTM та Transformer для прогнозу цін — популярні, але в production нестабільні через нестаціонарність фінансових рядів. Більш надійний підхід: ML для signal generation (класифікація: зростання/падіння за горизонт N) з традиційним portfolio optimization зверху. Backtesting через Zipline-Reloaded, vectorbt, QuantLib. Критичний правильний backtesting — look-ahead bias вбиває результати. Ми гарантуємо чистоту експерименту: всі дані на момент сигналу доступні в реальному часі.

AML (Anti-Money Laundering). Graph Neural Networks для аналізу транзакційних мереж — активно розвивається область. PyG, DGL для GNN. Задача: виявити suspicious patterns в графі транзакцій (layering, structuring). Recall критичніший за precision — краще 10 хибних тривог, ніж пропустити відмивання. В проекті для великого платіжного сервісу ми підвищили recall на 18% без збільшення false positive rate.

Що входить в роботу над фінансовим проектом:

• Аудит даних та регуляторних вимог (Basel, EU AI Act)
• Вибір моделі та забезпечення explainability (SHAP, LIME)
• Перевірка fairness та відсутність bias
• Інтеграція з core banking / trading systems
• Документація та compliance-звітність
• Моніторинг дрейфу моделі та ретрейн

Замовте консультацію — ми оцінимо ваш датасет та відповідність регуляторним вимогам

Рітейл та e-commerce: рекомендаційні системи та demand forecasting

Рекомендаційні системи. Архітектурний стандарт останніх років: two-tower модель для retrieval + ranking з cross-features. TensorFlow Recommenders або Merlin від NVIDIA для GPU-accelerated feature processing. Для невеликих каталогів (<100k item) достатньо LightFM. Часта помилка — навчати на implicit feedback без урахування position bias. Рішення: IPW (Inverse Propensity Weighting) або randomized logging на частині трафіку. Термін розробки базової рекомендаційної системи — 4–8 тижнів, включаючи A/B-тест.

Demand forecasting та inventory optimization. Ієрархічне прогнозування: SKU → категорія → магазин → регіон. HierarchicalForecast від Nixtla автоматично узгоджує прогнози за рівнями. TFT або N-HiTS для базового прогнозу, gradient boosting для adjustment на екзогенних факторах (промо, погода, події). Один проект у рітейлі призвів до зниження сток-аутів на 15% за рахунок точного промо-калібрування.

Visual search та розмірна сумісність. CLIP-embeddings для пошуку за зображенням — деплоїться за 2–3 тижні: clip-ViT-B-32 або clip-ViT-L-14, індекс Faiss або Qdrant, REST API. Для size recommendation — специфічні моделі на даних повернень та відгуків із зазначенням fit.

Що входить в роботу над рітейл-проектом:

• Аналіз даних транзакцій, товарів, клієнтів
• Вибір архітектури (collaborative / content-based / hybrid)
• Розробка та оцінка якості (NDCG, recall@k, MRR)
• A/B-тест та моніторинг business impact
• Підтримка версіонування та пере навчання моделей

Отримайте комерційну пропозицію для вашого e-commerce проекту

Чому domain expert критичний для галузевого AI?

Виробництво: інспекція якості та predictive maintenance

Quality control та дефектоскопія. CV-моделі для інспекції продукції — одне з найбільш зрілих галузевих завдань. YOLOv10 для детекції дефектів, SegFormer для сегментації. Специфіка: дисбаланс класів (дефекти рідкісні), високі вимоги до recall (пропуск дефекту гірший за хибну тривогу). Типовий набір даних: 500–2000 зображень з дефектами + 500–1000 нормальних. Few-shot learning через DINO або SAM 2 дозволяє працювати з 50–100 анотованими прикладами. Ми отримали досвід на лінії з виробництва електроніки — recall 0.95 при FPR 0.03.

Predictive maintenance. Вібраційні датчики, струмові датчики, термопари → feature extraction → аномалія або класифікація режиму. Моделі: LSTM-AE для unsupervised, LightGBM для supervised (якщо є історія відмов). Інтеграція з SCADA/OPC-UA через opcua-asyncio або MQTT. Ключова метрика: False Negative Rate — пропущений передвідмова коштує дорожче хибної тривоги. Поріг налаштовується під бізнес-вартість кожного типу помилки. Терміни: від 3 до 6 місяців до production.

Digital twin та симуляція. Surrogate models — ML-моделі, що замінюють дороге фізичне моделювання. Якщо CFD-симуляція займає 6 годин, а surrogate (навчена на 10 000 симуляцій) — 0.01 секунди, це 2 000 000× прискорення для оптимізації. SALib для sensitivity analysis, botorch для Bayesian optimization поверх surrogate.

Що входить в роботу над виробничим проектом:

• Аудит даних сенсорів / зображень
• Вибір моделі під задачу (CV / time series / vibro)
• Розробка пайплайну (ETL, feature engineering, training)
• Розгортання на Edge / on-premise
• Моніторинг та ретрейн моделі

Загальні принципи галузевого AI. Незалежно від галузі, є патерни, що працюють скрізь. Domain expert в команді — ML-інженер без domain knowledge робить повільно і з помилками те, що ML-інженер плюс лікар/фінансист/технолог зроблять швидко і правильно. Compliance-first design — регуляторні вимоги простіше вбудувати в архітектуру з початку, ніж додати пізніше. Логування, пояснюваність, версіонування — з першого дня. Дані важливіші за архітектуру — в медицині 1000 якісно розмічених знімків краще 100 000 поганих. У виробництві 200 реальних прикладів дефектів цінніші за 10 000 синтетичних.

Порівняння підходів за швидкістю та точністю для різних галузей:

Як проходить робота над галузевим AI-рішенням?

1. Занурення в домен (2–3 дні) — інтерв'ю з експертами, вивчення регуляторних вимог, аудит доступних даних.
2. Проектування MVP (1–2 тижні) — вибір стеку, архітектури, оцінка feasibility.
3. Розробка та валідація (від 4 тижнів до 6 місяців залежно від галузі) — навчання моделі, тестування, compliance.
4. Інтеграція та деплой (1–4 тижні) — on-premise / cloud / edge, документація, навчання персоналу.
5. Підтримка та моніторинг — дрейф моделі, ретрейн, SLA.

Орієнтовні терміни:

Вартість розраховується індивідуально під кожен проект. Отримайте консультацію — оцінимо ваш датасет, регуляторну карту та бізнес-цілі.

Наш досвід та гарантії

80+ реалізованих проектів у фінтесі, медицині, рітейлі та виробництві. Стійкий досвід роботи з compliance та деплоєм. Ми відповідаємо за досягнення цільових метрик (AUC, recall, latency p99) і надаємо повну документацію — model card, datasheet, compliance report. Використовуємо open-source з комерційно безпечними ліцензіями (PyTorch, MONAI, LightGBM, Qdrant). Працюємо як підрядник та в ролі посилення вашої команди.

Зв'яжіться з нами — обговоримо ваше завдання та підготуємо комерційну пропозицію з планом робіт.