Agentul care își cântărește costul

Cererea către Jev pentru mesajul lui Popescu I. (forma reală a API-ului)

POST https://api.typesafe.ai/v1/systemone
Authorization: Bearer $TYPESAFE_API_KEY

{
  "model": "jev-latest",
  "state": {
    "mesaj": "De ce am plătit 112 lei în septembrie dacă am produs 410 kWh?",
    "membru": { "rol": "prosumator", "extras_septembrie": { "de_plata_lei": 111.91,
                 "dat_kwh": 188, "primit_kwh": 96, "retea_kwh": 143 } },
    "politica": "Agentul răspunde din registru; orice corecție se propune omului."
  },
  "questions": {
    "intentie": { "type": "choice", "instructions": "Ce vrea membrul din `mesaj`?",
      "criteria": { "explicatie_extras": "să înțeleagă o cifră din extras",
                    "corectie": "contestă o cifră și vrea modificare sau bani",
                    "echipament": "problemă cu invertorul, bateria sau gateway-ul",
                    "document": "cere un document sau un raport",
                    "altceva": "niciuna dintre cele de mai sus" } },
    "din_registru": { "type": "noul",
      "instructions": "Se poate răspunde complet din `membru.extras_septembrie`?" },
    "escaladare": { "type": "noul",
      "instructions": "Cere mesajul o decizie umană: bani de returnat, reclamație, ton ostil?" },
    "urgenta": { "type": "score", "instructions": "Cât de repede trebuie tratat?",
      "criteria": ["poate aștepta zile", "azi", "în ora curentă", "imediat: siguranță sau bani"] }
  }
}

// răspuns (scurtat)
{ "answers": { "intentie": { "choice": "explicatie_extras", "confidence": 0.93, ... },
               "din_registru": { "noul": 0.91 }, "escaladare": { "noul": 0.06 },
               "urgenta": { "score": 1.2, ... } },
  "usage": { "input_tokens": 410, "output_tokens": 18 } }   // 410 × 0,042 $/M = 0,00008 lei

Poarta economică, în codul agentului

def route_message(msg, member, ledger):
    a, cost = jev(state={"mesaj": msg, "membru": member, "politica": POLICY},
                  questions=MESSAGE_QUESTIONS)
    ledger.add("jev", cost_usd=cost, event=msg)

    intent, conf = a["intentie"]["choice"], a["intentie"]["confidence"]
    from_ledger   = a["din_registru"]["noul"]
    needs_human   = a["escaladare"]["noul"]

    # 1. Orice efect financiar sau reclamație: omul decide (M8.5).
    if needs_human >= 0.6 or intent == "corectie":
        brief, cost = claude("claude-haiku-5-5", SYSTEM_BRIEF, case_text(msg, member), effort="low")
        return ledger.to_human(brief, cost_usd=cost, minutes=10)

    # 2. Șablon din registru: 0 lei, când Jev e sigur și cifrele există.
    if intent == "explicatie_extras" and conf >= 0.85 and from_ledger >= 0.85:
        return ledger.auto(template_answer(intent, member), saved_minutes=6)

    # 3. Altfel, Haiku explică din date; dar numai dacă merită.
    expected_value = OPERATOR_RON_PER_HOUR * 6 / 60          # 6 minute de operator
    if expected_value < 3 * est_cost_ron("claude-haiku-5-5", tokens_in=2000, tokens_out=400):
        return ledger.defer(msg)                           # lotul de noapte
    text, cost = claude("claude-haiku-5-5", SYSTEM_ANSWER, case_text(msg, member), effort="low")
    return ledger.auto(text, cost_usd=cost, saved_minutes=6, review=(conf < 0.6))

Pragurile 0,60 și 0,85 vin din practica de rutare pe încredere: un prag global pentru incertitudine reală și unul mai înalt pentru acțiunile scumpe. Se calibrează pe datele comunității, nu se iau de bune.

Ce conține

• Ledger: fiecare apel cu model, tokeni, cost în lei, minute de operator, valoare estimată; raport zilnic.
• jev(): o cerere, mai multe întrebări în paralel, cost din usage.input_tokens.
• claude(): Haiku la efort mic pentru răspunsuri, Opus pentru analize, cu răspuns de rezervă la refuz; cost din usage.
• worth_it(): pasul scump rulează numai dacă valoarea așteptată ≥ 3 × cost; altfel amânare în lotul de noapte.
• handle_message / handle_discrepancy / handle_invoice: cele trei fluxuri din ziua de mai sus, cu omul în buclă acolo unde cere M8.5.

Descarcă cost_aware_agent.py

Cum se rulează

# pe serverul platformei, nu în browser
pip install anthropic httpx
export TYPESAFE_API_KEY=...      # TypeSafe
export ANTHROPIC_API_KEY=...     # sau Claude prin Microsoft Foundry
python cost_aware_agent.py --demo   # rulează ziua simulată, scrie registrul

# ieșire (fragment)
07:05 mesaj      jev 410 tok  0,0001 lei  → șablon      +6 min
08:10 reconcil.  jev 640 tok  → opus 4.0k/2.5k  0,30 lei → om aprobă  +20 min, 9,80 lei evitați
...
TOTAL zi: cost modele 0,90 lei · operator 41 min · economisit 176 min · net +146 lei

Evaluarea agentului pe date reale (setul de întrebări ale membrilor, diferențele de contor din trecut) este sarcina lui Andy în faza 1: pragurile de mai sus devin cifre măsurate, nu presupuse.