Крипто-канали Telegram: де ламається навчання NLP-моделі
Потік крипто-каналів у Telegram зростає швидше, ніж здатність читати його очима: кілька десятків активних каналів дають тисячі повідомлень на добу, а сенс несуть одиниці відсотків із них.
Ручний аналіз крипто-каналів впирається в це одразу — проглядається верхній шар, а сигнали, розібрані за форматом і контекстом, залишаються поза кадром.
Друга точка відмови — розмітка повідомлень Telegram. Один і той самий пост про лістинг два розмітники відносять до різних класів, бо шум і повтори в крипто-чатах заважають: репости, емодзі-простирадла, трансліт тікерів, вставки ботів. Навчання NLP-моделі успадковує це розходження як шум у цільовій змінній.
Фабрична модель тут не рятує: вона не знає місцевого сленгу, скорочень і того, що тікер у тексті та в емодзі-кодуванні — одне й те саме. Потрібен свій корпус із дедуплікацією на вході, окремим класом для неперевірних тверджень і моделлю, навченою на вашій стрічці каналів.
Ключове вузьке місце масштабування — не обчислювальні ресурси, а замкнений контур даних: розбір потоку відбирає кандидатів на розмітку, розмітка уточнює модель, модель знову розбирає потік.
Рветься він зазвичай на ручному кроці, бо правила класів живуть у голові відповідального, а не в схемі. Нижче розбираємо, як це закривається.
Що дає власний класифікатор сигналів і тональності
Потік повідомлень із каналів Telegram — це тисячі коротких текстів на добу з помилками, емодзі та внутрішнім сленгом спільноти. Класифікатор сигналів розмічає їх за сенсом: вхід у позицію, вихід, фіксація прибутку, аналітика, реклама, питання.
Аналіз тональності крипто йде другим шаром і розрізняє не тільки забарвлення, а й упевненість автора — «набір іде» і «набір іде, але обережно» для торгівлі значать різне.
Модель навчаємо на розмітці конкретних каналів, а не на абстрактному наборі текстів.
Сленг, фірмові скорочення, емодзі-маркери конкретного автора стають ознаками, а не шумом; на спірних повідомленнях — там, де сумнівається й людина — точність піднімаємо ансамблем моделей і перехресною перевіркою розмітників.
Детекція скаму та схем винесена в окремий клас із власними ознаками: молодість активу, обіцянка гарантованої дохідності, шаблонні формулювання, різка зміна теми каналу.
Це не бінарний фільтр — модель віддає оцінку ризику, а поріг спрацьовування налаштовується під правила каналу, щоб не різати живу аналітику.
Швидкість обробки повідомлень тримається на потоці: розбір проходить за секунди після публікації, черга не зростає при пікових сплесках, тому сигнал потрапляє в роботу раніше, ніж його прочитають підписники.
Частка ручної роботи скорочується до розбору пограничних випадків — оператор перестає вичитувати стрічку цілком.
Варіанти розбору каналів: правила, готовий сервіс, власна розробка
Розбір крипто-каналів починається з потоку повідомлень: текст, підписи до картинок, репости, правки, видалення, гілки коментарів. Далі вирішується головне питання — як витягувати сигнал: за формальними правилами чи статистичною моделлю.
Від цього залежить, що робити зі сленгом, помилками та емодзі-маскуванням тікерів, а жаргон змінюється кожні пару місяців.
Нижче — чотири реальні альтернативи, між якими обирають на старті. Зазвичай починаємо зі швидкої перевірки гіпотез на правилах, а модель підключаємо там, де правила перестають тримати точність.
| Варіант | Коли підходить | Де впирається в обмеження |
|---|---|---|
| Правила та словники | Вузький список каналів, стабільні шаблони постів, потрібен передбачуваний розбір | Сленг і маскування тікерів ламають шаблони; словники правлять вручну щотижня |
| Готовий сервіс аналітики | Потрібні агрегати та алерти одразу, своєї команди під задачу немає | Закрита модель: не можна навчити на своїх каналах і забрати ознаки для своїх звітів |
| Донавчання моделі | Є розмітка за своїми каналами, потрібна точність вища за правила та перенесення на нові канали | Потребує чистого датасету й контролю дрейфу: при зміні жаргону точність падає без повторного донавчання |
| Розробка з нуля | Власна схема ознак, кілька мов і задач, плани розвивати продукт | Довше в запуску, потрібна інфраструктура для навчання й відтворюваних замірів якості |
Вибір підходу впирається не в інструмент, а в дані та цільові метрики: яка точність потрібна, скільки розмітки команда готова підтримувати, як швидко реагувати на зміну сленгу.
Готовий сервіс дає результат швидко, але закритий для донавчання; своя модель вимагає контролю дрейфу й зрозумілої процедури замірів.
Як будується робота: від аудиту каналів до передачі
Починаємо з аудиту каналів: які джерела дають сигнал, а які — шум, наскільки стабільний формат постів і де він ламається. Далі йдемо конвеєром, де кожен етап перевіряємо до переходу до наступного — інакше помилки розмітки спливають уже на впровадженні.
- Аудит каналів. Розбираємо джерела: частота публікацій, частка реклами та повторів, структура повідомлень, підписи й хештеги. Відбираємо ті, де дані придатні для навчання, решту позначаємо як шум.
- Збір та очищення даних. Забираємо історію з урахуванням прав доступу, знімаємо дублікати, службові вставки й розмітку, приводимо тексти до єдиного вигляду. Кожне повідомлення однозначно прив’язане до каналу й часу.
- Розмітка корпусу. Фіксуємо схему класів — сигнал, аналітика, новина, реклама — і правила для спірних випадків. Заміряємо узгодженість розмітників і правимо розходження до старту навчання.
- Налаштування моделі. Навчаємо NLP-модель на підготовленому корпусі, окремо налаштовуємо вилучення сутностей: тікерів, напрямків, цільових рівнів. Ознаки й параметри підбираємо за відкладеною вибіркою.
- Валідація якості. Перевіряємо на періоді, якого модель не бачила: частка вірних спрацьовувань, пропуски й хибні тривоги за кожним класом, поведінка на рідкісних форматах і змішаних мовах.
- Впровадження в потік. Підключаємо модель до приймача повідомлень, налаштовуємо буферизацію й повторні спроби при збоях джерела. Результат іде у ваш канал, базу або бота.
- Передача та супровід. Віддаємо корпус, схему розмітки, конфігурації та інструкцію з донавчання, домовляємося про періодичність перевірок і реакцію на дрейф даних.
Що ви отримуєте на руки: датасети, інструкції, регламенти
Після проєкту у вашої команди залишаються не тільки навчена модель, а й усе, що потрібно для її самостійної роботи. Артефакти передаємо у ваш репозиторій і базу знань — без закритих блоків і прив’язки до нас. Перевірка проста: ваші інженери самі проходять шлях від розмітки до випуску нової версії.
- Датасет із розміткою. Вивантаження повідомлень крипто-каналів Telegram із мітками: сигнал, спам, реклама, обговорення. Правила спірних випадків зафіксовані письмово, тому розмітку можна продовжувати й розширювати без нас.
- Інструкція із запуску. Розгортання від чистого середовища: залежності, конфігурація, підключення до джерела повідомлень, перевірка на тестовому каналі. Інженер піднімає й зупиняє обробку сам.
- Схема обробки потоку. Шлях повідомлення цілком: приймання, нормалізація, розмітка моделлю, запис результату. Позначені точки відмови й те, як система поводиться, коли вузол недоступний.
- Регламент перенавчання. Тригери — падіння якості, зміна сленгу каналів, поява нових типів контенту. Плюс порядок перевірки нової версії на відкладеній вибірці та умови відкату до попередньої.
- Права доступу до даних. Матриця ролей: кому видно сирі повідомлення, кому — знеособлені, хто керує моделлю. Ключі до джерела зберігаються окремо від аналітики.
- Журнал експериментів. Які ознаки й пороги пробували, що дало приріст, а що не спрацювало — щоб не ходити по колу.
Передаємо все разом із розбором: ваші фахівці проганяють кроки самі, ми відповідаємо на питання й закриваємо прогалини. Далі модель розвивається у вашому темпі — архітектура й дані це дозволяють.
Кейс: розбір потоку каналів до і після навчання
Проєкт почався з вузького місця, а не із задачі «впровадити нейромережу».
Чергова зміна вручну переглядала потік із кількох сотень крипто-каналів у Telegram: розбір одного джерела займав близько 12 хвилин, черга зростала, а реклама під виглядом сигналу й крос-постинг потрапляли у звіт нарівні з реальними подіями.
Що змінили
Зібрали корпус повідомлень за кілька років і розмітили за класами: сигнал, реклама, шахрайська схема, флуд, дублікат. Навчали російською та англійською, окремо — на змішаних написаннях: трансліт, заміна літер схожими символами, зміна розкладки.
Поверх моделі поставили поріг упевненості — усе, що нижче, іде в чергу ручної перевірки разом із вихідним повідомленням і контекстом.
Метрики до і після
- Розбір одного каналу: 12 хвилин → 40 секунд.
- Ручна робота зміни: 30 годин на тиждень → 4 години.
- Точність виділення сигналів: 0.71 → 0.93.
- Частка хибних спрацьовувань: 38% → 6%.
- Повнота на змішаних написаннях: 42% → 89%.
Які класи відмов закрилися
- Обхід фільтрів через підміну символів і розкладку: раніше такі тексти проходили як «невідомий».
- Крос-постинг: один сенс у переписаних повідомленнях стискається в один елемент.
- Реклама під виглядом сигналу та схеми з обіцянкою гарантованої дохідності — у карантин до перевірки аналітиком.
Модель не замінює аналітика, а знімає рутину: спірні випадки, як і раніше, вирішує людина. Перенавчання на свіжих даних раз на кілька тижнів утримує метрики, коли канали змінюють манеру письма.
Що робити, якщо класифікатор уже зібрано на правилах?
Правила не викидають — їх перетворюють на джерело розмітки й на страховку. Класифікатор на правилах уже пройшов через живий потік повідомлень, і його рішення на архіві каналів стають чорновою розміткою для NLP-моделі.
Словники тікерів, адрес і маркерів-стопів переносяться майже без змін: вони залишаються ознаками, а не замінюються.
Що переносити, а що переписувати — питання покриття, а не ідеології. Словники, списки адрес і явні заборони щодо шахрайських схем залишаються поверх моделі як жорсткий фільтр: спрацювало правило — думка моделі вже не враховується.
Переписують каскади «якщо — то», які ламаються на перефразуваннях, помилках і сленгу, та пріоритети правил, що конфліктують між собою.
Якість тримається не на обіцянках, а на контрольному наборі. Ми збираємо повідомлення, розмічені вручну за всіма класами інтересу, і проганяємо через обидва варіанти: поточні правила та навчену модель.
Розходження розбираємо поштучно — частина з них виявляється помилками правил, частина вказує на прогалини в розмітці. Перехід починається тільки тоді, коли модель не гірша за кожною категорією, а не в середньому.
Далі увімкнення йде поступово. Спочатку модель працює паралельно з правилами, і її рішення тільки логуються, потім на неї переходить частина потоку, потім — весь, із збереженням можливості повернутися до правил однією настройкою.
Так поточна якість не просідає на жодному кроці, а спірні повідомлення залишаються в окремій черзі на додаткову розмітку.
Технічні сумніви: розмітка, шум каналів, приватність
Розмітка спірних повідомлень — головне джерело розходжень, а не обсяг даних. Іронія, саркастичний «сигнал», репост без контексту й спростування через годину читаються людьми по-різному: у двох розмітників розходиться 10-15% прикладів.
Це межа задачі, а не брак, тому спірні випадки йдуть в окремий шар, рішення третього розмітника фіксується як прецедент і перевикористовується на схожих повідомленнях.
Стійкість до сленгу тримається не на словнику, а на нормалізації входу: заміни літер, підстановки емодзі та скорочення приводяться до базової форми до подачі в модель.
Словник при цьому живий — його оновлюють на свіжих повідомленнях за розкладом, інакше точність просідає вже через кілька тижнів.
Що робити, якщо розмітка суперечлива?
Рахуємо частку розходжень за кожною міткою і показуємо її до навчання. Якщо вона вища за узгоджений поріг, правило формулюється заново, і частину прикладів перерозмічають — інакше модель вивчить шум замість сигналу.
Як поводитеся з шумом і рекламним сміттям у каналах?
Шум відсікається на етапі підготовки корпусу, а не всередині моделі: дублі, боти-оголошення й нативні вставки позначаються окремим класом. Модель вчиться їх розпізнавати, тому у звіті вони не змішуються з реальними згадками.
Що з приватністю листування та закритими каналами?
Особисті діалоги й закриті канали не збираємо: працюємо з вивантаженням, яке дає власник, або з відкритими джерелами. Персональні дані вирізаються під час підготовки корпусу, до навчання, а не постфактум у видачі.
Як часто оновлюєте словник і саму модель?
Словник — на регулярному циклі, модель — за метрикою на відкладеній вибірці: як тільки якість на свіжих повідомленнях падає нижче порога, запускаємо донавчання. Набір міток при цьому не змінюється, щоб старі звіти залишалися зіставними.
Обговоримо задачу: що розбирати і з якою точністю
Щоб оцінка була предметною, а не «на око», на першій розмові розбираємо ваш потік і те, який результат ви готові вважати робочим. Від цих ввідних залежать схема розмітки, обсяг робіт і критерій приймання пілота.
- Джерело та обсяг. Які канали й чати в зоні інтересу, скільки повідомлень надходить на добу, яку частку дають пересилання, боти та пости без тексту.
- Класи повідомлень. Що вважаємо сигналом: анонси лістингів, рух коштів, чутки, попередження про шахраїв, реклама. Класів беремо стільки, скільки ви реально зможете обробити.
- Цільова метрика. Що важливіше — не пропустити сигнал чи не завалювати вас хибними спрацьовуваннями. Від цього залежить поріг і баланс повноти та точності.
- Розмітка та еталон. Чи є історична вибірка з підтвердженими мітками, хто розмічає спірні повідомлення. На еталонній вибірці ми чесно вимірюємо якість, а не показуємо зручні приклади.
- Пілот на своєму каналі. Модель розмічає ваш потік у закритому режимі, ми звіряємо результат із ручною перевіркою і показуємо, де і чому вона помиляється.
- Доступи та критерій приймання. Як забираємо повідомлення — офіційний інтерфейс чи вивантаження, які канали закриті, яка частка вірних спрацьовувань за кожним класом вважається достатньою.
Частину відповідей можна уточнити вже на дзвінку — важливіше зрозуміти сам потік і очікування щодо якості. Опишіть задачу: що за канали, які сигнали потрібні і що ви вважаєте прийнятним результатом, — повернемося з оцінкою та планом робіт.
