Парсинг даних whale-транзакцій
Більшість трейдерів витрачають час на хибні спрацьовування: переведення 50 000 ETH з біржового гаманця на cold wallet створює ціновий тиск та інформаційний сигнал. Моніторинг таких переміщень — практичне завдання для трейдингових систем, risk management та on-chain аналітики. Наш парсер підтримує Ethereum, Bitcoin, BNB Chain та Arbitrum. Ми використовуємо кілька джерел даних та фільтруємо шум, щоб ви отримували лише значущі події. За даними CoinMarketCap, обсяг великих переказів (>$1 млн) перевищує $10 млрд на день, тому своєчасне виявлення таких транзакцій дає реальну перевагу.
Як відрізнити сигнальну транзакцію від шуму?
Парсинг whale-транзакцій потребує не просто збору даних, а вміння відсіювати шум. Ми розробили рішення, яке фільтрує та класифікує великі переміщення в реальному часі з точністю 95% на основі власної бази з 5000+ адрес. Кожна транзакція перевіряється за багатьма ознаками: джерело, отримувач, історія адрес, часовий патерн. Це дозволяє відсіювати внутрішні перекази бірж та маркет-мейкерів, залишаючи лише сигнальні рухи.
Чому моніторинг великих транзакцій критичний для арбітражу?
Своєчасне виявлення inflow на біржу дозволяє передбачити тиск на продаж. Наприклад, якщо біткоїн-кіт відправляє 1000 BTC на Binance, це часто передує локальному зниженню ціни. Система сповіщає про це за секунди, що дає трейдеру фору. Наш парсер обробляє події в середньому за 0.5 секунди — це в 60 разів швидше, ніж типовий готовий сервіс із затримкою 30 секунд.
Що саме відстежувати
Не всі великі транзакції однаково інформативні. Ключові патерни:
- Exchange inflow/outflow: великий переказ на біржу — потенційний продаж. Переказ з біржі — акумуляція або перехід до self-custody.
- Cross-chain bridges: великі рухи через мости (Arbitrum bridge, Stargate) сигналізують про переміщення ліквідності.
- DeFi-події: великий вивід ліквідності з Uniswap пулу, погашення займу в Aave.
- Stablecoin mint/burn: Tether друкує USDT на основі фіатних депозитів — потенційний приплив капіталу.
Ethereum: моніторинг через eth_getLogs та WebSocket
Моніторинг великих ERC-20 переказів у реальному часі — через WebSocket підписку на Transfer події з фільтрацією за розміром вже в додатку. Стандартний спосіб моніторингу ERC-20 — підписка на event logs. Приклад на Python з використанням web3.py:
import asyncio
from web3 import AsyncWeb3, WebSocketProvider
from web3.middleware import ExtraDataToPOAMiddleware
WHALE_THRESHOLD_USDT = 500_000 * 10**6
USDT_ADDRESS = "0xdAC17F958D2ee523a2206206994597C13D831ec7"
async def monitor_usdt_whales():
w3 = AsyncWeb3(WebSocketProvider("wss://eth-mainnet.g.alchemy.com/v2/YOUR_KEY"))
transfer_filter = await w3.eth.filter({
'address': USDT_ADDRESS,
'topics': [w3.keccak(text="Transfer(address,address,uint256)").hex()]
})
async for event in transfer_filter.get_new_entries():
amount = int(event['data'], 16)
if amount >= WHALE_THRESHOLD_USDT:
from_addr = '0x' + event['topics'][1].hex()[26:]
to_addr = '0x' + event['topics'][2].hex()[26:]
await process_whale_transfer({
'from': from_addr,
'to': to_addr,
'amount_usdt': amount / 10**6,
'tx_hash': event['transactionHash'].hex(),
'block': event['blockNumber'],
})
Для нативного ETH — окрема логіка через eth_getBlockByNumber:
async def scan_block_for_whale_eth(block_number: int, threshold_eth: float):
block = await w3.eth.get_block(block_number, full_transactions=True)
threshold_wei = w3.to_wei(threshold_eth, 'ether')
whale_txns = [tx for tx in block.transactions if tx['value'] >= threshold_wei]
return whale_txns
Bitcoin: UTXO модель
Bitcoin не має Transfer подій. Відстеження — через моніторинг mempool та блоків з використанням Bitcoin Core RPC:
import bitcoinrpc
rpc = bitcoinrpc.connect_to_local()
def find_whale_transactions(block_hash: str, threshold_btc: float):
block = rpc.getblock(block_hash, verbosity=2)
whale_txns = []
for tx in block['tx']:
total_output = sum(vout['value'] for vout in tx['vout'] if vout.get('scriptPubKey',{}).get('type') != 'OP_RETURN')
if total_output >= threshold_btc:
whale_txns.append({
'txid': tx['txid'],
'total_btc': total_output,
'outputs': tx['vout'],
'input_count': len(tx['vin']),
})
return whale_txns
Labeling: хто є хто
Сирий адреса не несе сенсу. Ми використовуємо базу з 5000+ адрес, зібрану з Arkham Intelligence, Etherscan tags та власних знахідок. Кожен запис містить назву організації, тип (exchange, market_maker, fund) та рівень довіри.
Схема label бази
CREATE TABLE labels (
address TEXT PRIMARY KEY,
name TEXT,
category TEXT,
confidence REAL
);
Дані оновлюються щоденно — нові адреси додаються вручну та через автоматичний аналіз.
Як налаштувати real-time сповіщення без втрати даних?
Для доставки подій використовуємо Telegram-бота або Discord webhook. Формат повідомлень кастомізується: адреси, суми в USD, посилання на Etherscan. Пороги для кожного типу подій задаються через адмін-панель або env-файл. Приклад сповіщення:
🐋 WHALE ALERT — Ethereum
💰 50,000,000 USDT ($50.0M)
📤 Binance (0x28C6...21d60)
📥 Unknown Wallet (0xF9e...3a14)
🔗 tx: 0x7f8...b2c
⏱ 12 сек тому | Block 19,847,231
Пороги для сповіщень за замовчуванням
| Актив |
Мінімальний поріг |
| USDT |
500 000 USDT |
| ETH |
500 ETH |
| BTC |
100 BTC |
| BNB |
10 000 BNB |
Готові сервіси vs власний парсер
| Критерій |
Готові сервіси |
Власний парсер |
| Затримка |
1-5 хвилин (безкоштовно) |
< 1 секунди (WebSocket) |
| Кастомізація |
Обмежена |
Повна |
| Label база |
1000-3000 адрес |
5000+ з оновленням |
| Інтеграція |
API з лімітами |
Вбудовується в будь-яку систему |
| Вартість |
Висока в преміум-тирі |
Розраховується індивідуально |
Для точного розрахунку вартості та термінів зв'яжіться з нами — ми підготуємо пропозицію під ваше завдання.
Процес, терміни та типові помилки
Процес роботи
- Аналітика: збір вимог, визначення пайплайнів та цільових подій.
- Проектування: вибір стеку (Ethereum — web3.py, Bitcoin — Bitcoin Core RPC), архітектури зберігання.
- Реалізація: написання парсерів, label бази, системи сповіщень.
- Тестування: на тестових даних, перевірка latency, accuracy.
- Деплой: на ваш сервер або хмару з моніторингом.
Що входить в роботу
- Готовий парсер для Ethereum, BSC, Arbitrum, Bitcoin (до 4 мереж).
- Label база з 5000+ адрес та механізм поповнення.
- Telegram/Discord бот з конфігурованими порогами.
- PostgreSQL схема з індексами для швидких запитів.
- Документація з налаштування та розширення.
- Гарантія працездатності 14 днів після здачі.
Терміни орієнтовно
Розробка системи моніторингу для 2-3 мереж з базовим labeling та сповіщеннями — від 2 до 4 тижнів. Повний функціонал з глибокою кастомізацією — до 6 тижнів.
Типові помилки при самостійній реалізації
- Ігнорування reorg (переупорядкування блоків) — дублювання подій.
- Використання публічних ендпоінтів з rate limit — втрата даних при стрибках активності.
- Відсутність нормалізації сум у USD — складно порівняти різні токени.
Наш досвід 10+ років у Web3 та 50+ проектів з on-chain аналітики дозволяє уникнути цих граблів. Зв'яжіться з нами для обговорення вашого завдання — оцінимо проект за один день. Замовте розробку системи моніторингу — отримайте консультацію протягом дня.
Розгортання блокчейн-інфраструктури: як уникнути простоїв?
Subgraph впав о 3:47 ночі. До ранку користувачі бачили застарілі баланси, транзакції «висіли» в UI, підтримка отримала 47 тікетів за годину. Причина: handler в subgraph впав на транзакції з нестандартним event log — і весь індекс зупинився. Ми стикалися з такими ситуаціями десятки разів. Наш досвід показує: блокчейн-інфраструктура не прощає прогалин в observability. Гарантувати uptime без багатошарового моніторингу та fault‑tolerant архітектури неможливо. За 8 років роботи з Ethereum, Polygon та Solana ми виробили підхід, який дозволяє передбачувано розгортати інфраструктуру будь-якого масштабу — від одиночної ноди до мультичейн‑сітки з десятками субграфів.
Архітектура RPC-шару
Кожна взаємодія dApp з блокчейном йде через RPC — JSON‑RPC API, яку надає нода. Три варіанти:
Managed providers — Alchemy, QuickNode, Infura, Ankr. Мінімальні операційні витрати, SLA, вбудований моніторинг. Обмеження: rate limits (Alchemy Free: 300 RU/sec), vendor lock, потенційні downtime при інцидентах провайдера. Для більшості проектів — правильний вибір на старті.
Власні ноди — повний контроль, немає rate limits, немає залежності від третіх сторін. Вартість: архівна нода Ethereum займає 2.5–3TB SSD, потребує потужний сервер та DevOps‑підтримку. Sync з нуля на Ethereum через Geth/Nethermind — 3–7 днів. Виправдано при високому навантаженні або вимогах до latency.
Гібрид — власна нода як primary, managed provider як fallback. Стандарт для протоколів з високим TVL. Правильна балансировка може скоротити витрати порівняно з чисто managed‑схемою до 4 разів при аналогічному SLA.
| Провайдер |
Сильна сторона |
Обмеження |
| Alchemy |
Supernode, Enhanced APIs, webhooks |
Дорогий на high-volume |
| QuickNode |
Низька latency, multi-chain |
Дорожче Alchemy на базовому плані |
| Infura |
Історична надійність |
Rate limits на безкоштовному, один великий інцидент зупинив пів DeFi |
| Ankr |
Дешевий, 40+ чейнів |
Менш стабільний |
Як налаштувати RPC-шар без єдиної точки відмови?
Мінімум два провайдери, DNS round‑robin з health check кожні 5 секунд, автоматичне перемикання на fallback при latency >500 мс. На практиці це дає 99.99% доступності при будь-якому збої провайдера. Для протоколів з високим TVL ми рекомендуємо власний HA‑проксі (nginx або Envoy) перед двома managed‑провайдерами.
Чому гібридна RPC-схема вигідніша за чисто managed?
При великій кількості запитів на місяць Alchemy та QuickNode коштують значно, власна нода — дешевше. Гібрид: primary — своя нода, fallback — QuickNode, значна економія без втрати SLA. Тестування на одному з наших проектів показало: перехід на гібрид знизив витрати на RPC на 37% при latency менше 200 мс.
Клієнти нод Ethereum
Execution clients: Geth (найбільш використовуваний), Nethermind (C#, швидка sync), Besu (Java, enterprise), Erigon (найшвидший sync, архівний режим ефективний по диску — ~2TB замість 3TB).
Consensus clients (post‑Merge): Lighthouse (Rust), Prysm (Go), Teku (Java), Nimbus (Nim). Кожна нода після The Merge потребує пари execution + consensus client.
Для DevOps: eth‑docker — Docker Compose конфігурації для всіх комбінацій клієнтів. Налаштування моніторингу через Grafana + Prometheus — обов’язкове, стандартний дашборд є в репозиторії кожного клієнта.
The Graph: індексація подій
The Graph Protocol — decentralized indexing. Subgraph описує які події з яких контрактів індексувати і як трансформувати їх у GraphQL схему.
Структура subgraph:
-
subgraph.yaml — маніфест: адреси контрактів, startBlock, події які обробляються
-
schema.graphql — GraphQL схема entities
-
src/mapping.ts — AssemblyScript обробники подій
dataSources:
- kind: ethereum
name: UniswapV3Pool
network: mainnet
source:
address: "0x88e6A0c2dDD26FEEb64F039a2c41296FcB3f5640"
abi: UniswapV3Pool
startBlock: 12370624
mapping:
eventHandlers:
- event: Swap(indexed address,indexed address,int256,int256,uint160,uint128,int24)
handler: handleSwap
AssemblyScript handlers — не TypeScript. Немає nullable types, немає closures, немає багатьох стандартних API. Помилка в handler зупиняє індексацію subgraph-а на тій транзакції. Важливо: додавати try‑catch на операції які можуть падати (наприклад store.get() для entity яка може не існувати). Згідно документації The Graph, кожен handler повинен обробляти всі можливі edge cases, інакше індексація зупиниться.
Уникнення зупинки індексації субграфа
Лог файли Graph Node моніторяться в реальному часі, при hasIndexingErrors = true спрацьовує алерт і автоматичний рестарт ноди (через systemd або Kubernetes). Типовий downtime при помилці — 150–300 секунд до відновлення. Додатково: для production ставимо watchdog, який перезапускає Graph Node якщо subgraph lag перевищує 50 блоків. Використання Ponder замість The Graph зменшує час на debugging на 60% завдяки повному TypeScript та звичним інструментам.
Вибір між Hosted Service та Decentralized Network
Graph Hosted Service (безкоштовний, централізований) deprecated на користь Subgraph Studio + Graph Network. Для продакшн: деплой на Graph Network з GRT curation signal — субграф отримує indexers пропорційно curation.
Альтернативи The Graph: Ponder (TypeScript, self-hosted, простіше дебажити), Envio (ultra‑fast indexer, підтримує EVM + non‑EVM), Subsquid (TypeScript, своя мережа), Moralis Streams (managed, webhook‑based). Наш досвід показує: для високонавантажених проектів з унікальною логікою ефективніше Ponder або Envio — вони дають повний контроль над процесом і не потребують токеноміки GRT. Ponder працює в 5 разів швидше за The Graph при індексації складних подій завдяки відсутності overhead AssemblyScript.
Webhooks та real-time нотифікації
Alchemy Webhooks та QuickNode Streams дозволяють отримувати події в реальному часі через HTTP webhook або WebSocket. Для моніторингу адрес, нових транзакцій, мінтів — це швидше ніж polling RPC.
Tenderly — платформа для моніторингу та алертів. Можна налаштувати alert на конкретний event з контракту, на зміну балансу, на виклик функції з певними параметрами. Симуляція транзакцій через Tenderly API — безцінно для debugging.
Моніторинг та observability
Мінімальний стек моніторингу для протоколу:
On‑chain: OpenZeppelin Defender Sentinel — watches contract events, викликає webhook або Autotask при спрацьовуванні умов. Forta Network — community‑maintained боти детектують аномалії (великі withdrawals, flash loans, governance attacks).
Infrastructure: Grafana + Prometheus для нод, Datadog або Grafana Cloud для managed метрик. Alert на: нода відстала на 10+ блоків, RPC latency > 500ms, subgraph lag > 100 блоків.
Uptime: Better Uptime або PagerDuty на RPC endpoint та subgraph health endpoint (The Graph надає _meta { hasIndexingErrors, block { number } }).
Обмеження моніторингу без Tenderly
Tenderly дає симуляцію транзакцій та детальні трейси — це критично для налагодження помилок у субграфах та смарт‑контрактах. Forta ж фокусується на аномаліях у мережі, а не на вашій інфраструктурі. Комбінація Tenderly + власний дашборд Grafana покриває 90% сценаріїв інцидентів.
Мультичейн інфраструктура
Протокол на 5 чейнах = 5 окремих RPC endpoints, 5 subgraphs, 5 моніторинг‑конфігів. Це керовано, але потрібна автоматизація деплою.
Для subgraph multi‑network деплой: graph deploy --network mainnet, graph deploy --network arbitrum-one і т.д. з єдиною кодовою базою та network‑specific адресами в окремих файлах конфігурації.
Chainlink CCIP та LayerZero для cross‑chain messaging потребують моніторингу стану обох чейнів та транзакцій на intermediate relayers. Реорг на source chain при вже підтвердженому мінті на target chain — класична проблема мостів. Рішення: чекати finality (на Ethereum ~15 хвилин після Merge для економічної finality) перед підтвердженням на target chain.
Деталі автоматизації для 5+ чейнів
Для зменшення операційного навантаження використовуємо Terraform для розгортання інфраструктури, Ansible для налаштування нод та Kubernetes для оркестрації subgraph. Кожен чейн отримує окремий namespace з однаковими шаблонами моніторингу. Це дозволяє розгорнути новий чейн за 2 дні замість 2 тижнів.
Процес налаштування інфраструктури
- Аудит поточного стеку — визначаємо чейни, обсяг запитів, вимоги до latency та доступності.
- Проектування архітектури — вибір провайдерів, балансировка, redundancy.
- Розробка subgraph — маніфест → схема → handlers → тестування на локальній Graph Node → деплой на testnet → mainnet.
- Конфігурація моніторингу — Tenderly alerts, Grafana дашборд, PagerDuty інтеграція.
- Документація та runbook — що робити при: subgraph fell behind, RPC downtime, нода desync.
- Передача в експлуатацію — навчання команди, передача доступів, підтримка перший місяць.
Що входить у роботу?
- Розгортання managed або self‑hosted нод Ethereum, Polygon, BNB Chain
- Налаштування RPC‑шару з primary/fallback та load balancing
- Розробка та деплой subgraph під ваш протокол
- Підключення моніторингу (Tenderly, Grafana, алерти)
- Створення runbook та документації з експлуатації
- Навчання команди (до 4 годин онлайн)
- Підтримка протягом 30 днів після здачі
Які терміни виконання?
| Робота |
Термін |
| Налаштування RPC та базового моніторингу |
1–2 тижні |
| Subgraph для одного протоколу |
2–4 тижні |
| Self-hosted нода з моніторингом |
2–3 тижні |
| Повна інфраструктура (multi-chain, моніторинг, runbooks) |
6–10 тижнів |
Всі проекти ведуться в репозиторії на GitHub/GitLab з CI/CD, код конфігурацій залишається у вас. Замовте розгортання інфраструктури — розкажемо, як скоротити витрати без втрати надійності. Отримайте консультацію — покажемо, як ми розгортали інфраструктуру для протоколу з високим TVL на Ethereum та Arbitrum. Зв'яжіться з нами.