Інтеграція Cohere API Command R Command R+ Embed

Інтеграція Cohere API: Command R, Command R+, Embed

Cohere спеціалізується на корпоративному NLP: їхні вбудовування (embed-multilingual-v3) займають лідируючі позиції в MTEB benchmark для багатомовного пошуку. Command R+ оптимізований для RAG-завдань з вбудованим RAG-режимом, який повертає цитати джерел. Корисно для корпоративного пошуку з вимогою перевіримих відповідей.

Базова інтеграція

import cohere

co = cohere.Client("COHERE_API_KEY")

# Chat (Command R+)
response = co.chat(
    model="command-r-plus",
    message="Поясни принципи роботи трансформерів",
    temperature=0.1,
)
print(response.text)

# Асинхронність
import cohere.asyncio as async_cohere

async_co = async_cohere.AsyncClient("COHERE_API_KEY")
response = await async_co.chat(model="command-r-plus", message="Запит")

RAG-режим з вбудованими цитатами

documents = [
    {"id": "doc_1", "title": "Політика безпеки", "text": "...текст..."},
    {"id": "doc_2", "title": "Регламент доступу", "text": "...текст..."},
]

# Cohere автоматично знаходить релевантні документи та цитує їх
response = co.chat(
    model="command-r-plus",
    message="Як отримати доступ до корпоративних систем?",
    documents=documents,
    # Відповідь містить цитати з посиланнями на джерела
)

print(response.text)
for citation in response.citations:
    print(f"Цитата: {citation.text}, джерела: {citation.document_ids}")

Вбудовування (найкращі в класі для пошуку)

# Багатомовні вбудовування — один з найкращих варіантів для RU/EN/UA
response = co.embed(
    texts=["Пошук документів", "Document search", "Пошук документів"],
    model="embed-multilingual-v3.0",
    input_type="search_query",  # "search_query" або "search_document"
)
embeddings = response.embeddings

# Для індексування документів
doc_embeddings = co.embed(
    texts=["Текст документа 1", "Текст документа 2"],
    model="embed-multilingual-v3.0",
    input_type="search_document",
)

Rerank — переранжування результатів пошуку

# Cohere Rerank — потужний інструмент для поліпшення точності RAG
docs = [
    "Python — інтерпретована мова програмування",
    "Anaconda — дистрибутив Python для науки про дані",
    "Змії питони поширені в тропічних регіонах",
    "Django — Python веб-фреймворк",
]

results = co.rerank(
    model="rerank-multilingual-v3.0",
    query="Python для машинного навчання",
    documents=docs,
    top_n=3,
)

for result in results.results:
    print(f"Оцінка: {result.relevance_score:.3f} | {docs[result.index]}")

Вартість Cohere (2025)

Терміни

• Базова інтеграція чату: 0.5–1 день
• RAG з цитатами: 2–3 дні
• Rerank-конвеєр: 1–2 дні