Розробка моделі класифікації фейкових новин у крипто

Крипто-ринок — ідеальне середовище для дезінформації. Волатильність висока: один фейковий твіт про лістинг на Binance або про злам протоколу рухає ціну на десятки відсотків. Pump-and-dump схеми починаються з інформаційної маніпуляції. Ми розробляємо модель класифікації фейкових новин у крипто під ключ — від збору датасету до деплою. Використовуємо NLP для крипто: fine-tuning FinBERT на крипто-корпусі та on-chain верифікацію новин. Детекція дезінформації крипто — наш профіль. Оцінимо ваш проєкт і запропонуємо рішення.

Розробка такого класифікатора — задача NLP із кількома специфічними складнощами: вузькодоменна термінологія, швидкість поширення інформації (новина застаріває за години), мультимовність, навмисна обфускація тексту авторами фейків. Ми використовуємо сучасний стек: PyTorch, HuggingFace Transformers, Fine-tuning FinBERT на крипто-корпусі. У результаті ви отримуєте систему, здатну автоматично виявляти дезінформацію з recall > 0.85 та precision > 0.90.

Які типи фейків ми розрізняємо?

Перш ніж будувати модель, потрібно зрозуміти, що саме класифікуємо. «Фейкові новини» — занадто широке поняття. Ми виділяємо наступні категорії:

Кожна категорія має свої текстові патерни, джерела та методи верифікації. Модель класифікує за категоріями, а не бінарно «fake/real».

Як ми збираємо дані для навчання?

Головна проблема — відсутність готового датасету. Існуючі датасети (LIAR, FakeNewsNet) не охоплюють крипто-специфіку.

Джерела даних:

• Twitter/X API: Academic Research API дає доступ до історичних даних. Фільтруємо акаунти з > 1,000 follower у крипто-ніші, хештеги #bitcoin, #defi, ключові слова протоколів.
• Telegram: Telethon для парсингу публічних каналів. Важливе джерело — pump-and-dump канали.
• Reddit: r/CryptoCurrency, r/Bitcoin, r/CryptoMoonShots через Pushshift API.
• Новинні агрегатори: CoinDesk, Cointelegraph, Decrypt — верифіковані новини (позитивний клас).

Автоматична крос-верифікація: якщо новина з'являється у Twitter, але не підтверджується офіційними каналами за 24 години — потенційний фейк; якщо суперечить on-chain даним — фейк з високою ймовірністю. Human labeling через краудсорсинг з доменними експертами. Кожен приклад розмічається мінімум трьома анотаторами, inter-annotator agreement > 0.7.

from datasets import Dataset import pandas as pd # Структура датасету example_schema = { 'id': str, 'text': str, 'source': str, 'author': str, 'timestamp': str, 'label': int, 'category': str, 'confidence': float, 'verification_sources': list, 'mentioned_tokens': list, 'mentioned_exchanges': list, } def balance_dataset(df: pd.DataFrame, target_ratio: float = 0.4) -> pd.DataFrame: fake = df[df['label'] == 1] real = df[df['label'] == 0] n_fake = len(fake) n_real_target = int(n_fake / target_ratio * (1 - target_ratio)) real_sampled = real.sample(n=min(n_real_target, len(real)), random_state=42) return pd.concat([fake, real_sampled]).sample(frac=1, random_state=42) 

Архітектура моделі

Feature Engineering: що важливо для крипто-фейків

Текстові сигнали фейків:

• Надмірний hype без конкретики («100x guaranteed», «next bitcoin»)
• Терміновість («buy NOW», «last chance»)
• Імена відомих проєктів/особистостей без контексту
• Граматичні помилки (акаунти-імітатори часто недбалі)

Metadata ознаки:

• Вік акаунта та історія публікацій
• Follower/following ratio (0.01 — підозріло)
• Швидкість поширення (віральність за першу годину)
• Часовий патерн (публікація о 3:00 UTC)

Baseline: TF-IDF + Logistic Regression / XGBoost. Основна модель: FinBERT (фінансовий BERT), fine-tuned на крипто-корпусі. Фінальний ансамбль: градієнтний бустинг на конкатенації CLS-ембедінгів та мета-ознак. Така комбінація значно точніша: ансамбль у 1.15 раза точніший за одиночний FinBERT.

from transformers import AutoTokenizer, AutoModelForSequenceClassification import torch import numpy as np from sklearn.ensemble import GradientBoostingClassifier class CryptoFakeNewsClassifier: def __init__(self, model_name: str = 'ProsusAI/finbert'): self.tokenizer = AutoTokenizer.from_pretrained(model_name) self.text_model = AutoModelForSequenceClassification.from_pretrained( model_name, num_labels=6 ) self.meta_classifier = GradientBoostingClassifier( n_estimators=300, max_depth=6, learning_rate=0.05 ) def extract_text_features(self, texts: list[str]) -> np.ndarray: self.text_model.eval() all_embeddings = [] batch_size = 32 for i in range(0, len(texts), batch_size): batch = texts[i:i+batch_size] inputs = self.tokenizer( batch, max_length=512, truncation=True, padding=True, return_tensors='pt' ) with torch.no_grad(): outputs = self.text_model(**inputs, output_hidden_states=True) cls_embeddings = outputs.hidden_states[-1][:, 0, :] all_embeddings.append(cls_embeddings.numpy()) return np.vstack(all_embeddings) def extract_meta_features(self, posts: list[dict]) -> np.ndarray: features = [] for post in posts: account_age_days = ( pd.Timestamp.now() - pd.Timestamp(post['account_created']) ).days feature_vector = [ account_age_days, post.get('followers_count', 0), post.get('following_count', 1), post.get('followers_count', 0) / max(post.get('following_count', 1), 1), post.get('tweet_count', 0), post.get('retweet_count', 0), post.get('like_count', 0), int(post.get('verified', False)), len(post.get('text', '')), post.get('text', '').count('!'), post.get('text', '').count('$'), np.sin(2 * np.pi * pd.Timestamp(post['created_at']).hour / 24), np.cos(2 * np.pi * pd.Timestamp(post['created_at']).hour / 24), int('http' in post.get('text', '')), sum(1 for token in KNOWN_TOKENS if token.lower() in post.get('text', '').lower()), ] features.append(feature_vector) return np.array(features) def predict(self, posts: list[dict]) -> dict: texts = [p['text'] for p in posts] text_features = self.extract_text_features(texts) meta_features = self.extract_meta_features(posts) combined = np.hstack([text_features, meta_features]) probabilities = self.meta_classifier.predict_proba(combined) predictions = self.meta_classifier.predict(combined) return { 'predictions': predictions, 'probabilities': probabilities, 'labels': ['real', 'fake_listing', 'fake_partnership', 'fake_exploit', 'shill', 'impersonation'] } 

Fine-tuning на крипто-домен

FinBERT навчався на фінансових новинах, але не спеціалізований для крипто. Fine-tuning на крипто-корпусі значно покращує якість: recall для фейків зростає на 5–7%. Використовуємо кастомні ваги класів для балансування: фейкові класи отримують більший штраф за пропуск.

from transformers import Trainer, TrainingArguments training_args = TrainingArguments( output_dir='./crypto-fake-news-model', num_train_epochs=5, per_device_train_batch_size=16, per_device_eval_batch_size=32, warmup_steps=500, weight_decay=0.01, evaluation_strategy='epoch', save_strategy='epoch', load_best_model_at_end=True, metric_for_best_model='f1_macro', ) 

Чому on-chain верифікація важлива?

Унікальна перевага крипто-домену: багато заяв верифіковані on-chain. Заявлений лістинг на Uniswap V3 — перевіряємо через Uniswap Subgraph, чи існує пул. Заявлений exploit — перевіряємо зміну TVL у DeFiLlama за вказаний період. Заявлене партнерство — шукаємо on-chain взаємодію між контрактами. Це детермінована перевірка, яка значно підвищує точність для категорій з on-chain слідом.

import aiohttp async def verify_listing_claim(token_address: str, dex: str = 'uniswap_v3') -> dict: if dex == 'uniswap_v3': query = """ query PoolsForToken($token: String!) { pools(where: { or: [ { token0: $token }, { token1: $token } ] }, first: 5) { id token0 { symbol } token1 { symbol } liquidity totalValueLockedUSD createdAtTimestamp } } """ async with aiohttp.ClientSession() as session: async with session.post( 'https://api.thegraph.com/subgraphs/name/uniswap/uniswap-v3', json={'query': query, 'variables': {'token': token_address.lower()}} ) as response: data = await response.json() pools = data.get('data', {}).get('pools', []) return { 'listing_exists': len(pools) > 0, 'pools': pools, 'total_tvl': sum(float(p['totalValueLockedUSD']) for p in pools) } async def verify_exploit_claim(protocol: str, claimed_amount_usd: float, claim_timestamp: int) -> dict: async with aiohttp.ClientSession() as session: async with session.get( f'https://api.llama.fi/protocol/{protocol}' ) as response: data = await response.json() tvl_history = data.get('tvl', []) before_tvl = get_tvl_at_timestamp(tvl_history, claim_timestamp - 3600) after_tvl = get_tvl_at_timestamp(tvl_history, claim_timestamp + 3600) tvl_drop = before_tvl - after_tvl if before_tvl > after_tvl else 0 return { 'tvl_drop_detected': tvl_drop > 0, 'detected_amount': tvl_drop, 'claimed_amount': claimed_amount_usd, 'plausible': abs(tvl_drop - claimed_amount_usd) / claimed_amount_usd < 0.3 } 

Як оцінити якість моделі?

Для детекції фейків accuracy — неправильна метрика. Якщо 90% прикладів реальні, модель, яка завжди передбачає «real», отримає 90% accuracy. Основні метрики: precision, recall, F1 за класами. Особлива увага — recall для fake класів: пропуск фейку гірший за хибну тривогу.

Цільові показники для production: Fake detection recall > 0.85, real precision > 0.90, F1 macro > 0.82. Моніторимо temporal stability: модель повинна зберігати якість на нових даних, тому раз на місяць проводимо перенавчання.

Порівняння підходів:

Наша архітектура дає F1 на 18% вищий, ніж TF-IDF + XGBoost. Типовий збиток від одного успішного фейкового твіту оцінюється в $10,000–$500,000.

from sklearn.metrics import classification_report, roc_auc_score import pandas as pd def evaluate_model(y_true, y_pred, y_proba, class_names): report = classification_report( y_true, y_pred, target_names=class_names, output_dict=True ) df_report = pd.DataFrame(report).T fake_classes = [c for c in class_names if c != 'real'] fake_f1_avg = df_report.loc[fake_classes, 'f1-score'].mean() print(f"Fake detection F1 (macro avg): {fake_f1_avg:.3f}") print(f"Real precision: {df_report.loc['real', 'precision']:.3f}") binary_labels = (y_true > 0).astype(int) binary_proba = 1 - y_proba[:, 0] auc = roc_auc_score(binary_labels, binary_proba) print(f"AUC-ROC (fake vs real): {auc:.3f}") return df_report 

Що входить у роботу

• Збір та розмітка датасету (50 000+ прикладів) з автоматичною та ручною верифікацією
• Fine-tuning FinBERT на вашому корпусі (або нашому публічному)
• Розробка пайплайну з on-chain верифікацією через The Graph, DeFiLlama
• Деплой у Docker-контейнері з FastAPI, Kafka для потокової обробки, моніторинг concept drift
• Алертинг при виявленні фейків з налаштовуваними порогами
• Документація по API та посібник користувача

Процес роботи

1. Аналітика: вивчаємо ваші джерела даних, визначаємо цільові категорії фейків
2. Проєктування: обираємо стек, проєктуємо датасет і пайплайн верифікації
3. Реалізація: збір даних, навчання baseline та transformer моделі, ітерації
4. Тестування: оцінка на історичних та свіжих даних, A/B-тестування
5. Деплой: розгортання у вашій інфраструктурі, інтеграція з існуючими сервісами

Терміни орієнтовно

Від 3 до 4 місяців до production-ready системи. Збір та розмітка датасету — 6–8 тижнів, навчання моделей — 4–6 тижнів, деплой та моніторинг — 3–4 тижні. Вартість розраховується індивідуально.

Наша команда має 8+ років досвіду в NLP та блокчейні, виконала 30+ проєктів з класифікації контенту. Економія від запобігання втратам на фейкових новинах може сягати сотень тисяч доларів. Зв'яжіться з нами для оцінки вашого проєкту — ми підберемо оптимальне рішення. Замовте розробку моделі вже сьогодні.