AI-асистент і контекстна автоматизація

01Огляд проєкту

02Інженерна задача

LLM гнучкі, але їхня правильність не гарантована. У продукті, що зачіпає торгові налаштування та стан акаунта, модель ніколи не має бути єдиним бар’єром між запитом і дією.

• A

  Отримувати потрібний контекст для кожного запиту зі стану застосунку.

• B

  Перетворювати відповіді моделі на структуровані дані, які можна перевірити.

• C

  Блокувати дії, що не пройшли перевірку, незалежно від формулювання запиту.

• D

  Спостерігати за поведінкою AI в продакшені, щоб знаходити й виправляти типові збої.

03Архітектура рішення

Наведіть або натисніть на етап.

04Основні компоненти

• 01

  Сервіс асистента

  Інтеграція з LLM API, формування запитів і обробка відповідей.

• 02

  Збирач контексту

  Збирає для кожного запиту потрібний стан застосунку та пам’ять діалогу.

• 03

  Перевірка відповідей

  Розбирає структуровані відповіді та відхиляє все, що не відповідає очікуваній схемі.

• 04

  Шар правил

  Детерміновані перевірки, що захищають критичні параметри й операції.

• 05

  Маршрутизатор дій

  Зіставляє перевірені наміри з операціями бекенда.

• 06

  AI-моніторинг

  Логи й аналіз AI-процесів для виявлення неочікуваної поведінки.

05Технологічний стек

07Інженерні рішення

1. 01

   Гібрид за задумом

   AI інтерпретує, правила вирішують. Так асистент лишається корисним, але не може обійти бізнес-логіку.

2. 02

   Схеми на межі

   Відповідь моделі вважається недовіреним входом і перевіряється так само, як відповідь будь-якого зовнішнього API.

3. 03

   Контекст відбирається, а не звалюється

   Моделі передається лише релевантний стан — відповіді точніші, а вартість передбачувана.

4. 04

   Спостережуваний AI

   AI-процеси логуються й розбираються так само, як будь-який інший production-компонент.

08Надійність і тестування

• ✓Перевірка за схемою кожної структурованої відповіді моделі.
• ✓Запасні відповіді, якщо модель не відповіла або повернула некоректні дані.
• ✓Перевірки правил, що працюють незалежно від моделі.
• ✓Розбір залогованих діалогів для пошуку типових збоїв.

09Приклад коду

from dataclasses import dataclass

ALLOWED_INTENTS = {"show_signals", "update_language", "explain_signal"}
SUPPORTED_LANGUAGES = {"en", "pl", "uk", "ru"}

@dataclass
class Intent:
    name: str
    params: dict

def guard(intent: Intent) -> Intent:
    """Model output is untrusted input. Validate before acting."""
    if intent.name not in ALLOWED_INTENTS:
        raise ValueError(f"intent '{intent.name}' is not permitted")

    if intent.name == "update_language":
        lang = intent.params.get("language")
        if lang not in SUPPORTED_LANGUAGES:
            raise ValueError(f"unsupported language: {lang!r}")

    return intent

Вихідний код продукту закритий. Приклади показують інженерний підхід, а не внутрішню логіку. Більше — в Engineering Lab.

10Можливий розвиток

• →Набори оціночних запитів, що проганяються після зміни промпту чи моделі.
• →Аналітика за намірами, яка показує, де користувачам складно.
• →Tool-calling для ширшого набору безпечних перевірених операцій.