Testarea unui asistent AI trebuie să includă și întrebări incomplete, contradictorii sau aflate în afara ofertei. Un set de exemple perfecte poate confirma numai o parte mică a conversațiilor reale.
Pregătește probe fără date private și fără efecte comerciale reale. Pentru fiecare, scrie comportamentul așteptat înainte de execuție, astfel încât rezultatul să poată fi evaluat consecvent.
Construiește categorii de situații
Include cereri obișnuite, informație lipsă, preț vechi, cerință nouă și solicitare de transfer. Adaugă formulări diferite pentru aceeași intenție.
Poți folosi și greșeli de scriere ori fraze scurte. Scopul este verificarea înțelegerii și limitelor, nu doar potrivirea unui cuvânt din bază.
Definește rezultatul acceptat
Pentru o informație aprobată, răspunsul trebuie să păstreze condițiile. Pentru o întrebare neacoperită, trebuie să clarifice ori să transmită către persoana responsabilă.
Notează ce informație poate cere și ce operațiune nu trebuie declanșată. O conversație fluentă poate fi nereușită dacă produce o promisiune sau o acțiune greșită.
Testează instrucțiunile venite din conținut
Un mesaj sau document poate include cereri de schimbare a regulilor. Folosește exemple inofensive, precum solicitarea de a ignora pachetul aprobat și a oferi un serviciu fictiv.
OWASP recomandă controale dincolo de simpla formulare a promptului. Permisiunile și validările trebuie verificate la operațiunea care produce efectul.
Caz demonstrativ: două întrebări într-un mesaj
Clientul cere un preț standard și o excepție de termen. Asistentul trebuie să poată răspunde părții cunoscute și să păstreze excepția în evaluare.
Testează dacă rezumatul pentru operator include ambele puncte. Un răspuns corect despre preț nu compensează pierderea cerinței care schimbă realizarea proiectului.
Păstrează dovezile și limitele
Notează versiunea surselor, configurația și rezultatele. Repetă probele relevante după modificări ale ofertei sau ale integrării.
Un set trecut nu garantează toate conversațiile viitoare. Raportul trebuie să arate ce a fost testat și ce puncte necesită monitorizare ori intervenție.
Verifică și traseul operatorului
Simulează un transfer, o eroare a serviciului și o reluare. Confirmă că informația ajunge unde trebuie și că nu se creează duplicate.
Pregătește și oprirea controlată a funcției dacă apare o problemă. Website-ul poate păstra un canal de contact alternativ, cu mesaj clar despre disponibilitate.
Planifică automatizarea cu probe
Vezi procesul ITroom și descrie prin formular sarcina și sistemele implicate. Un proiect verificabil are cazuri, limite și responsabilități înainte de activare.
Include corectarea intenției
Într-o probă, clientul începe cu un serviciu și apoi spune că dorea altul. Verifică dacă selecția, rezumatul și calculul folosesc varianta curentă. O conversație lungă poate păstra detalii vechi care par încă valabile; rezultatul trebuie comparat cu ultima clarificare, nu numai cu primul mesaj.
Ghid editorial ITroom pentru pregătirea unui proiect digital. Exemplele demonstrative se adaptează informațiilor reale ale afacerii; nu reprezintă rezultate garantate sau recomandări profesionale individuale.