Clientul: Cine sunt
O companie de software B2B de dimensiune medie, care dorea să integreze un asistent GenAI în produsul său principal, pentru a-i ajuta pe clienți să își interogheze propriile date în limbaj natural.
Provocarea: Identificarea problemei
Prototipurile timpurii generau răspunsuri „halucinate”, deoarece interogau modele de date ale clienților inconsistente și neguvernate — schema fiecărui client era ușor diferită, iar LLM-ul nu avea o bază de adevăr (ground truth) fiabilă de la care să pornească. „Demo-ul părea magie, până când un client real a pus o întrebare reală,” a declarat VP-ul de Product .
Parcursul: Căutarea unei soluții
Echipa internă restrânsă de date a companiei a încercat să rezolve problema calității datelor prin prompt engineering, dar nicio ajustare a prompt-urilor nu putea repara răspunsuri construite pe o schemă nesigură.
Descoperirea: Găsirea IDS
Compania a găsit IDS prin poziționarea „GenAI este la fel de bun ca datele de sub el”, prezentată într-un webinar IDS, și a contactat compania în mod specific pentru munca pe fundația de date, nu doar pentru stratul de AI.
Soluția: Intervenția
IDS a construit un strat semantic guvernat pe Delta Lake, care a normalizat modelele de date ale clienților într-o structură consecventă, pe care asistentul GenAI o putea interoga în mod fiabil, apoi a sprijinit echipa internă în construirea propriei capacități de data science pentru a-l întreține și extinde.
Implementarea: Bătălia
Implementarea a început cu un singur segment de clienți, pentru a valida acuratețea înainte de disponibilitatea generală, cu o etapă de revizuire human-in-the-loop pentru primele răspunsuri. Obstacolul: echilibrarea latenței răspunsurilor cu acuratețea acestora — IDS a ajustat stratul de retrieval pentru a menține răspunsurile rapide, fără a sacrifica fiabilitatea.
Rezultatele: Finalul fericit
- Rata de halucinații: redusă de la o rată cu două cifre în prototip la sub 2%
- Adopția funcționalității: peste 60% dintre clienții activi în primul trimestru de la lansarea generală
- Echipă internă de data science constituită și auto-suficientă după finalizarea colaborării
- Timpul necesar pentru adăugarea unei noi scheme de client în asistent: săptămâni → zile
„În sfârșit avem încredere în ce le spune clienților noștri.” — VP de Product
Tehnologii folosite: Python · Databricks · Delta Lake · Azure ML