Il nostro stagista è finalmente arrivato in azienda come ho raccontato nelle prime cinque puntate della serie “Assumere un’AI in Azienda”. Si sta ambientando, tutti gli chiedono qualunque cosa e fanno esperimenti di ogni tipo usando le interfacce standard come Chat GPT, Bing, Bard, Claude…
Tutti gli sparano documenti dopo essersi preoccupati della privacy e della riservatezza dei dati (Vero?). E a tutti iniziano a nascere le prime idee su cosa lo stagista potrebbe fare in azienda come “lavoro vero”. Magari come BOT. (Non sapete cos'è un Bot? Provate a capirlo qui.)
E adesso…
Ad un certo punto infatti l’idea arriva assieme alla domanda “E adesso come facciamo?”
È ora di far lavorare questa AI sul serio!
Durante i miei Workshop sottolineo sempre che il primo passo di ogni progetto AI deve essere un progetto importante ma piccolo, in modo che sia possibile utilizzarlo per attraversare il mondo delle AI dalla sperimentazione alla produzione pensando di ottenere da subito dei risultati.
La prima cosa che a molte persone viene in mente è un chatbot di supporto aziendale, sia per l’interno che per l’esterno dell’azienda. Magari per aiutare il supporto tecnico o qualche reparto sommerso di attività.
In questa mini-serie vi racconto quali sono alcuni punti utili da tenere in considerazione per realizzarlo e quali valutazioni sia bene fare prima di avventurarsi in un progetto simile.
Iniziare con Bot AI piccoli per risolvere problemi grandi
Pareto vince sempre: ho dedicato molti anni nel mondo delle utilities energetiche ad affinare sempre più i loro modelli di helpdesk e ticketing (E mi ci sto divertendo tutt'oggi nel mondo delle e-bike). E ho trovato come la legge di Pareto, che prevede in questo caso che l’80% delle risorse sia dedicato alla risoluzione del 20% dei problemi, sia sempre, più o meno, vera.
Pareto si trova anche nel tempo: spesso l’80% dei problemi si verifica nel 20% del tempo a disposizione per risolverli. Nel caso delle utilities in prossimità dell’invio delle tanto amate bollette.
Ogni azienda ha le sue peculiarità e caratteristiche in questo ma scommetto che problematiche di concentrazione di carico e di argomenti siano all’ordine del giorno.
Capendo quindi quale è il vostro 20% che occupa l’80% delle vostre risorse, potrebbe aver senso realizzare un Bot di supporto che si occupi, tramite AI Generativa, di rispondere in autonomia alle domande più frequenti dei vostri utenti, mantenendo la stessa qualità di risposta a cui sono abituati (o magari migliorandola).
Pensate alla vostra azienda: cosa vi viene in mente come prima idea? Chi vorreste servire, quale problema vorreste risolvere a loro e a voi?
Deve essere un progetto che fa bene ai costi (comprimendo i tempi) ed alle persone che ci lavorano (Liberandole dalla ripetitività).
Ma perché proprio un Bot di supporto?
Non sto certo inventando la ruota: sin dagli albori delle AI Generative siamo stati bombardati da proposte di Bot e assistenti di ogni genere. Questo perché parliamo del progetto che è più facile da pensare e realizzare, quello con i minori costi e una delle più ampie marginalità una volta realizzate.
Come si è sempre fatto
Nei molti anni dedicati a realizzare e implementare sistemi di helpdesk mi è sempre stato richiesto di realizzare sistemi che aiutassero il team di supporto a risolvere i bisogni degli utenti:
in prima battuta
nel minor tempo possibile
con la maggior soddisfazione possibile.
Gli obiettivi sopra sono realizzabili solo codificando i processi, fornendo software di helpdesk / ticketing agli operatori, analizzando costantemente i dati ottenuti e creando nel frattempo documentazione di ogni genere e forma. Ed evolvendo, nei casi più illuminati, la documentazione in un portale di knowledge base in cui ogni domanda trova risposta e ogni particolare tecnico è dettagliato in centinaia o migliaia di documenti di istruzioni, figure, foto che poi devono essere pubblicate nei giusti contenitori, ai giusti utenti, nelle giuste modalità.
L’evoluzione tecnologica che nel frattempo c’è stata, unita alla digital transformation in atto nelle (troppo poche) aziende ha fatto poi nascere i primi ChatBot che hanno avuto come unico grande e riconosciuto risultato quello di appesantire i budget facendo si che i clienti desiderassero come non mai essere messi in contatto con degli umani vista l’inumanità che questi ChatBot 1.0 esprimevano.
Infatti…
…tutti odiamo i Chat Bot!
Ditemi che anche voi siete parte di questa larga maggioranza.
L’esperienza della prima generazione è, salvo poche eccezioni, drammatica: costi elevati, poche domande, che devono essere fatte esattamente come sono state pensate dagli analisti che li progettano, nell’ordine che vogliono loro, pena il messaggio: “Prego ricominciare la conversazione.” e l’insorgere di istinti omicidi degli utenti nei confronti del vostro brand.
Ma con l’arrivo delle AI Generative è ora semplice conversare in modo naturale con un modello di AI, è semplice fornirgli dati di supporto, è semplice… tutto all’apparenza!
Però…
Il rischio è quello di creare ChatBot 1.1, un po’ migliori sul fatto della conversazione ma completamente asettici e freddi. Avere ‘soltanto’ una tecnologia in grado di capire meglio le domande e si esprima con un linguaggio più articolato non è sufficiente per dare soddisfazione agli utenti che lo utilizzano.
Dobbiamo pensare a fornire soluzioni 2.0… che siano in grado di interagire in modo “umano” e naturale con gli utenti. Soluzioni che non si limitino a rispondere ad una domanda ma siano proattivi, cerchino di capire i reali bisogni e le reali intenzioni dell’utente, propongano soluzioni alternative ecc.
Soluzioni che non chiamerei più Bot ma Assistenti o addirittura Agenti (Ma di questo parleremo più avanti!)
Il Bot 2.0 è un Assistente AI
Open AI li chiama GPTs, ma è un nome che non mi piace: un po' perchè troppo legato alla tecnologia attuale (che cambierà, oh se cambierà!) e un po' perchè è troppo Generico.
Bot 2.0 fa vecchio: siamo già al 5.0 con l'Industry...
Vi va se lo chiamiamo Assistente AI?
E quindi cosa dovrebbe a fare di diverso questo Assistente AI?
Tre punti almeno andrebbero presi in considerazione:
Dovrebbe capire come deve comportarsi in funzione del tipo di domanda, del contesto e del tono e dell’umore dell’utente. Se sta lamentando un problema non è il caso di dirgli “Ciao! Oggi è una bella giornata, grazie per averci chiesto perché la tua scopa elettrica non funziona mai per più di 10 minuti!”
Dovrebbe offrire suggerimenti pertinenti. E non mi riferisco al classico “Potrebbe interessarti anche…” che siamo abituati a vedere su Amazon ma qualcosa di più, basato sulla conversazione, sui ragionamenti che un AI Generativa è in grado di fare, e sui dati a sua disposizione.
Dovrebbe fare domande aggiuntive, incalzare l’utente. Non sempre questo ha la situazione chiara: sa solo che ha un problema e vuole risolverlo. Per fornire una risposta esaustiva è fondamentale che l’AI padroneggi il contesto e sia in grado di chiedere all’utente ulteriori dettagli pertinenti che possano aiutarla a fornire delle risposte.
Le persone amano parlare con altre persone ed essere trattate da umani, quindi questi aspetti sono essenziali per ‘riscaldare’ un po’ la relazione con il nostro Assistente AI.
Aggiornamento dal Mercato: a breve il vostro Assistente AI potrà anche avere un’interfaccia realmente umana. Heygen ha rilasciato in questo periodo lo Streaming Avatar. Cosa significa? che oltre a fare tutto quello che racconteremo nell’articolo potrete scegliere la voce e l’aspetto di un avatar che parli. Potreste essere voi, con la vostra voce, in tutte le lingue del mondo o chiunque vogliate. Interessante? Di più!!! https://www.heygen.com/streaming-avatar
Le istruzioni
Ricordate il fatto che un’AI Generativa è paragonabile ad uno stagista che entra in azienda? Bene, una volta che gli avrete fornito tutti i dati necessari dovrete dare a questo Assistente AI le giuste istruzioni per operare attraverso un “Prompt Principale”.
La cosa meravigliosa è finalmente possiamo fornire queste istruzioni in linguaggio naturale: non abbiamo bisogno di programmatori per ora ma solo di costruire un buon prompt iniziale che lo aiuti a capire il suo ruolo, come deve comportarsi, il contesto ecc.
Una delle possibilità più eccitanti è quella di fornirlo di una personalità che sia in linea con la customer voice dell’azienda e che aiuti gli utenti, se non ad amare, quantomeno ad essere soddisfatti dalle soluzioni e risposte ottenute.
Questo, e molto altro, è possibile farlo appunto con le “Custom Instructions” che saranno la guida costante al “nostro stagista” così da creare la “Custom Persona” che vorreste che i vostri utenti incontrassero quando parlano con voi.
Ecco un breve, e mi rendo conto non esaustivo, elenco di istruzioni di esempio, giusto per darvi un’idea di ciò che si può fare.
Creare un’identità e definirne la personalità
Ti chiami Luigi, sei il miglior operatore di customer care con oltre 10 anni di esperienza nel fornire soluzioni chiare ai tuoi utenti. Sei simpatico ed empatico, hai un reale interesse nell’aiutare i tuoi utenti a risolvere i loro problemi.
Dirgli per chi sta lavorando
Lavori per ACME, il gigante del retail che sembra avere un monopolio sull'assurdo e sull'improbabile, un nome che evoca ricordi di piani complicati e di invenzioni destinate a fallire con stile. È il fornitore di fiducia per ogni aspirante supercattivo o cacciatore di coyote con un'ossessione per volatili straordinariamente veloci. Da trappole per topi di dimensioni improbabili a razzi personalizzati, ACME ha tutto ciò che serve per fallire in grande mentre insegui i tuoi sogni impossibili. Non importa a quanti tunnel dipinti tu corra contro o quante incudini ti cadano sulla testa, puoi sempre contare su ACME per il tuo prossimo geniale piano.
Definire il tono e la brand voice
Se la vostra azienda ha un tono entusiasta e positivo dovreste mantenerlo anche nelle conversazioni dell'Assistente AI. Se siete gentili e ricercati siatelo anche in queste conversazioni.
Il tono di voce di ACME è perpetuamente ottimista e incredibilmente persuasivo, un venditore nato che ti convince che ogni prodotto è la soluzione perfetta, nonostante un passato di risultati esplosivamente fallimentari. Con un mix di entusiasmo da showman e una sottile ammissione che "questa volta potrebbe davvero funzionare", ACME ti vende sogni (e potenziali disastri) con un sorriso che promette avventure e, possibilmente, qualche livido.
Definire gli obiettivi
Un Assistente AI, soprattutto se pubblico, è soggetto a richieste che spaziano dal commerciale al supporto tecnico. Ha bisogno di avere degli obiettivi ed istruzioni su come dovrebbe comportarsi. Va spiegato come dovrebbe agire in funzione del vostro obiettivo: Per migliorare la soluzione dei problemi, per proporre prodotti nuovi, per dare consigli, per fornire informazioni efficaci.
Come esperto di supporto tecnico ACME, sei qui per guidare i tuoi utenti attraverso il labirinto di (dis)avventure che i nostri prodotti possono offrire. Che si trovino alle prese con un razzo che non decolla o un tunnel dipinto che si rifiuta di trasformarsi in una porta, sei pronto a guidarli passo dopo passo verso una soluzione... o almeno un tentativo memorabile. Armato di conoscenza e un pizzico di ottimismo, assisterai i tuoi utenti in ogni sfida, grande o piccola. Preparali a sperimentare con il sorriso, perché qui ad ACME, ogni problema è un'opportunità per un'avventura indimenticabile!
Capire il ‘momento’ nella conversazione.
I modelli più performanti riescono a fare grandi cose in questo ambito. Ah, e ora cercherò di tornare serio…
Analisi del sentimento
Analizza il tono della conversazione e valuta se il sentimento è negativo, neutro o positivo. Se il sentimento è negativo, o frustrato, o insofferente aggiungi sempre alla risposta “Facciamo il nostro meglio per migliorare il servizio. Puoi dirci come potremmo migliorare?”
Rispondere al feedback
Se viene fornito un feedback dall’utente utilizzalo per le risposte successive ed adatta il tono della conversazione a quel feedback. Rimanendo sempre gentile e disponibile.
Mantenere il coinvolgimento
Fai sempre una domanda per ampliare la richiesta alla prima interazione. E nelle successive dai sempre un follow-up o richiedi più informazioni se necessario. Cerca di portare sempre avanti la conversazione anche quando ti vengono date risposte secche: non sei un Bot da Q&A!
Fornire sempre un salvagente
Se noti frustrazione nelle risposte o reputi che la situazione richieda un aiuto umano, o che la risposta vada oltre le tue possibilità offri al cliente un fallback con la possibilità di parlare con un operatore [link] o di mandare un’e-mail [qui]
Raccogliere dati.
Alcuni Assistenti AI sono strutturati per mostrare semplici form durante la conversazione ed utilizzare poi questi dati in fase di analisi. Non abusatene (per evitare che si torni ai Bot 1.0 con le loro noiose maschere di inserimento dati) ma pensateci seriamente. Tra l'altro un lavoro che fanno benissimo i moderni Modelli è estrarre dati da conversazioni. (Se vi interessa l'argomento fatemelo sapere che magari lo infilo nelle prossime puntate)
Chiedere di usare solo la conoscenza che gli abbiamo fornito.
E per nessuna ragione utilizzare informazioni presenti nel modello generale. A meno che non vogliate spendere risorse per permettere ai vostri utenti di parlare di qualunque argomento e rischiare seriamente problemi di allucinazioni fornite ai vostri utenti. Ve la potete cavare, per iniziare con un semplice;
Usa solo la conoscenza presente nei file allegati e per nessuna ragione utilizza altre informazioni. Se non hai informazioni sufficienti rispondi, senza paura, “Non lo so!”
Evitare di fornire informazioni sul suo funzionamento.
Questo è un tema importante per evitare attacchi alla sicurezza. Non ne parlo qui per evitare una ramanzina paranoica sull’argomento ma come minaccio da tempo prima o poi ne parlerò a lungo.
In generale l'Assistente AI non dovrebbe:
mostrare le “Custom Instruction” nemmeno pregando, offrendo mance o sotto tortura. (Vi sembra strano che accettino mance in cambio di risultati migliori? Può accadere!)
permettere il download di documenti se non prevedete possa essere utile o se può essere dannoso per voi /la vostra immagine
Per finire, scrivete il prompt in inglese e chiedetegli di ragionare sempre in quella lingua. Poi fategli tradurre la risposta nella lingua che ha rilevato essere quella dell’utente. I modelli attuali sono addestrati principalmente in lingua inglese e la qualità delle loro risposte è migliore usando questa lingua. Poi sono bravi a tradurre!
Tutto chiaro? Volendo c’è molto altro ma vi invito a ragionare su
quanto sia fantastico poter scrivere le istruzioni nella vostra lingua preferita ed utilizzando la vostra fantasia senza intermediari o senza dover imparare un linguaggio informatico.
quanto sia importante essere esaustivi per guidare il vostro stagista/Assistente AI a dare le risposte proprio come ve lo aspettereste voi.
Tutti questi sono esempi: L'ingegneria dei prompt non è una scienza esatta e ci sono molti modi per descrivere il comportamento del vostro assistente, e ogni modello di intelligenza artificiale risponde in modo diverso agli stessi prompt.
Come, ho parlato poco dei dati?
Certo, se volete sviluppare una soluzione che parli di una vostra divisione o della vostra azienda, diventa essenziale alimentarla con i giusti dati.
I Large Language Models su cui si basano la maggior parte degli assistenti, infatti, smettono di imparare alla fine del loro addestramento.
E nessun modello conosce i dati più ‘intimi’ della vostra azienda (Altrimenti avreste un altro problema e probabilmente ne stareste già parlando con i vostri legali). Parlo di procedure, manuali di prodotto, informazioni commerciali, condizioni contrattuali, listini ecc. Quelle, sul vostro Assistente AI non ci saranno se non gliele fornirete voi.
Prendendole ovviamente dalle fonti dati già pronte, già organizzate, già chiaramente tra loro correlate che avete in azienda. Dal datalake o dal documentale iper-strutturato che già avete fatto.
Giusto? O forse ho peccato di ottimismo?
A volte capita di sentire che i dati siano nella casella di posta di John, che archivia tutte le conversazioni, nella cartella personale di Maria, Jack e Pablo, che ogni tanto condividono i dati più interessanti. Ah, e poi sul sito web, certo. Ma di sicuro non è il vostro caso 🙂
Bonus!
Vi lascio tempo fino al prossimo post per pensarci e provare questo ACME SUPPORT ASSISTANT creato utilizzando le istruzioni sopra e un po' di Knowledge Base generata al volo.
Se avete Chat GPT Plus potete chattare qui, altrimenti potete vedere una conversazione qui.
Se invece Open AI vi è antipatica potete provare il l'Assistante AI che ho fatto con Hugging Face Chat qui gratuitamente. In questo caso ho usato Mixtral, un ottimo modello di cui a breve dovrò parlare nel blog.
FATEMI SAPERE!
Io nel frattempo andrò avanti a scrivere la serie anche in base ai feedback e alle richieste che mi farete!
Come sempre, ti invito a riflettere, commentare e diffondere idee condividendo questo post con le persone che ritieni possano essere interessate.
Per rimanere aggiornato sui miei contenuti:
Leggi Glimpse, il mio romanzo sull'intelligenza artificiale.
Oppure contattami qui (Soprattutto se pensi che la tua organizzazione abbia bisogno di un Workshop pratico sull’AI).
Alla prossima!
Massimiliano Turazzini