App con intelligenza artificiale: serve allenare un modello?

L’intelligenza artificiale è senza ombra di dubbio il fenomeno più polarizzante degli ultimi anni. L’avvento di ChatGPT, il popolare chatbot di OpenAI lanciato ormai 3 anni fa, ha aperto le porte a una nuova era digitale. Basti pensare che nei primi 5 giorni di vita, ChatGPT ha registrato oltre un milione di utenti.

È quindi naturale che le aziende di qualsiasi settore guardino oggi all’intelligenza artificiale come alla svolta per il proprio business. Ma qual è il modo migliore per approcciarsi all’IA? E quali soluzioni sono a disposizione di chi intende utilizzarla?

Non si può stabilire a priori quale approccio sia più corretto. Ogni progetto va valutato a sé, decretando di volta in volta quale sistema sia più adeguato. Ci sono però delle indicazioni generali che possono essere utili a farsi un’idea delle proprie necessità.

Capire l’esigenza per trovare la soluzione IA per ogni prodotto

L’entusiasmo per l’intelligenza artificiale porta molte aziende a sviluppare prodotti digitali con l’IA solamente per stare al passo con i tempi. 

Eppure, in quanto utenti prima che imprenditori o sviluppatori, quanti di noi hanno scaricato applicazioni o usato piattaforme solamente perché era stato aggiunto qualche elemento di IA? Probabilmente nessuno.

Perché un prodotto funzioni 一intelligenza artificiale inclusa o meno一, deve come prima cosa rispondere alle esigenze degli utenti; è su questa base che deve fondarsi la scelta delle tecnologie utilizzate.

L’intelligenza artificiale non serve sempre

Spesso, quando si parla di intelligenza artificiale ciò a cui si fa riferimento è un Large Language Model, cioè un tipo di intelligenza artificiale che viene addestrato con enormi quantità di dati per l’elaborazione di linguaggio naturale. 

In pratica ciò significa che questi modelli sono in grado di comprendere il modo di comunicare che utilizziamo quotidianamente, incluso ciò che esprimiamo implicitamente, e di rispondere in maniera adeguata. 

Un esempio: quando diciamo: “Potresti passarmi il sale?”, nonostante la forma sia quella di una domanda, ciò che stiamo esprimendo non è un dubbio, ma una richiesta. Sarebbe infatti strano se la persona a cui ci rivolgiamo ci rispondesse: “Sì, potrei”, anziché passarci la saliera. Gli LLM, dunque, sono allenati per comprendere quando devono (metaforicamente, ovviamente) “passare la saliera”.

Innanzitutto, quindi, la regola d’oro è che:

Esistono infatti molte altre alternative che potrebbero essere più adeguate a seconda del caso d’uso.

Quali sono dunque le casistiche possibili?

• Quando il problema può essere risolto con la matematica o la logica, è sufficiente utilizzare un algoritmo classico.
• Quando sono presenti dati strutturati, può essere utile un LLM per interpretare la richiesta, ma è sufficiente una query sul database per estrarre la risposta.
• Se l’obiettivo è ottenere un POC in tempi rapidi, l’LLM è d’aiuto grazie alla sua versatilità, ma è necessario ottimizzarlo nelle successive fasi di sviluppo.

Per noi di Mabiloft la priorità non è utilizzare le tecnologie più in voga, ma quelle adatte al contesto, che rispondono all’esigenza dalla quale origina l’applicazione con il minor costo possibile e la massima efficacia.

Se hai il dubbio che l’IA possa non essere la strada giusta per il tuo prodotto, parlane con noi. Il nostro team di esperti potrà indicarti senza preconcetti né risposte di comodo quale sia la soluzione adatta per il tuo caso.

Quali problemi risolve l’IA

Ma quindi perché sono tutti in fissa con l’intelligenza artificiale? Perché a oggi l’IA è la soluzione migliore per risolvere alcuni dei problemi con cui le aziende si interfacciano costantemente.

Alcuni esempi di soluzioni IA ottimali per le aziende sono:

• Creazione di chatbot per l’assistenza clienti, disponibili 24 ore su 24 e in grado di attenersi alle policy aziendali e di rispondere in maniera rapida
• Recupero accurato di risposte basate sui dati, ad esempio manuali aziendali, audio scambiati tra colleghi e documenti di varia origine.
• Automazione di flussi, specialmente se basati sulla classificazione di elementi (come ticket, email, ecc.).

Grazie a queste potenzialità, l’intelligenza artificiale si conferma come l’innovazione del decennio, se non del secolo a venire. Ma per poterne trarre beneficio non deve essere considerata alla stregua di un ornamento per applicazioni che funzionano bene anche senza, bensì sfruttata per risolvere problemi specifici.

Vuoi approfondire i casi d’uso reali dell’IA in un’app e scoprire come (e se) integrarla nel tuo prossimo prodotto digitale? Leggi il nostro articolo a riguardo sul blog!

Bisogna allenare un modello per fare un’app con intelligenza artificiale?

Una nozione travisata con cui molti clienti si presentano da noi di Mabiloft è quella che sia necessario o auspicabile “allenare un modello” per fare un’app con intelligenza artificiale. La verità è che raramente questa è la soluzione migliore.

Per integrare l’intelligenza artificiale, infatti, non serve “creare un cervello da zero”. Per spiegarlo ai nostri clienti utilizziamo questa analogia:

• Fare training, ossia allenare il modello da zero, è come far studiare un medico per vent’anni. È un percorso lungo e costoso, che è necessario quando vogliamo creare da zero le basi della conoscenza.
  Praticamente, è il processo che seguono Google o OpenAI per fornire i loro LLM, ma noi abbiamo la fortuna di poter usare quelli allenati da altri.
• Il fine-tuning, invece, cioè l’allenamento del modello già esistente su set di dati specifici, è paragonabile a mandare un medico a fare un corso di specializzazione. È utile, ma solamente nel caso in cui debba imparare uno stile o gergo specifico.
• Infine, la RAG (Retrieval Augmented Generation) è come fornire al medico una cartella clinica aggiornata e con gli esiti di tutti i possibili esami clinici mentre visita un paziente. Si tratta infatti di migliorare le risposte fornite dall’LLM fornendogli conoscenze esterne pertinenti al settore, come documenti aziendali, procedure interne o FAQ predefinite.

L’intelligenza artificiale è uno strumento estremamente potente, ma solamente quando viene utilizzato nella maniera appropriata. In caso contrario, diventa soltanto uno spreco di risorse economiche e temporali, senza nemmeno la garanzia di buona riuscita del progetto.

Come scegliere tra fine-tuning e RAG

Se nella pratica non si ricorre quasi mai al training vero e proprio di un modello, per i non addetti ai lavori può essere difficile anche scegliere tra le altre due alternative. Quando ricorriamo dunque all’una o all’altra?

La domanda da porsi è: “Voglio che l’IA scriva come me oppure che abbia le mie conoscenze?”. Nel primo caso è necessario il fine-tuning per ottenere l’imitazione di uno stile. Solitamente, questo è consigliato in fasi inoltrate, in cui si hanno più dati a disposizione per stabilire quale possa essere l’output desiderato. 

Nel secondo caso, che si presenta più di frequente, è sufficiente la conoscenza di fatti specifici. La RAG è dunque il processo più idoneo, oltre ad essere quello meno dispendioso tra i due.

Approccio e sfide nel programmare un’app con IA: un dossier dalla nostra esperienza

In Mabiloft abbiamo frequentemente lavorato con l’IA. Ad esempio, abbiamo sviluppato una knowledge base che consente di caricare file, audio e messaggi relativi ai progetti aziendali e di interagire con un chatbot che non solo fornisce risposte precise sul progetto, ma cita persino le fonti esatte da cui queste sono state elaborate.

Ma non solo: un altro prodotto di cui andiamo fieri è in grado di classificare la posta elettronica in entrata grazie al machine learning. In questo modo abbiamo automatizzato il processo di smistamento delle email, distinguendo quelle relative a richieste di collaborazione da quelle generiche informative.

E questi sono solamente alcuni (quelli che possiamo svelarvi!) dei progetti legati all’intelligenza artificiale che abbiamo sviluppato, ma non perdetevi gli aggiornamenti sui nostri prodotti futuri.

Cosa abbiamo imparato lavorando con l’IA

Quali lezioni ci siamo portati a casa dai progetti con l’intelligenza artificiale sui quali abbiamo sperimentato? In primis che la chiave è nella gestione dell’output. Una risposta di qualità da parte dell’LLM, infatti, deve avere queste due caratteristiche:

• Mostrare le fonti: il rischio di allucinazioni è sempre dietro l’angolo, perciò è preferibile mostrare all’utente le fonti da cui provengono le risposte che gli vengono fornite. Hai mai notato che AI overview di Google fa altrettanto? In questo modo, l’utente potrà verificare da sé se ciò che l’IA ha riassunto è degno di fiducia.
• Gestire l’errore: esistono domande che non hanno risposta e in questo caso è meglio ottenere un’onesta ammissione di impotenza anziché un’informazione fabbricata. Per questo motivo, va prevista la possibilità di non avere risposta e, piuttosto, di fornire argomenti correlati in mancanza di migliori alternative.
• Utilizzare agenti verticali: ciò significa che preferiamo agenti specializzati in ciascun sotto-task piuttosto che un unico agente che si improvvisa in ogni ruolo. Per esempio, un agente potrebbe essere deputato a decifrare le intenzioni dell’utente, un altro a eseguire eventuali ricerche e un terzo ancora aggregherà i dati e produrrà una risposta per l’utente.

A livello tecnico, affiancati al nostro stack consolidato, utilizziamo servizi che mettono la privacy al primo posto. Come si concretizza quest’intento? I modelli che usiamo non riutilizzano né l’input immesso dall’utente né l’output prodotto dall’LLM per allenare modelli pubblici.

Le sfide principali, però, sono quelle legate a costi per token e latenza di risposta. Queste ancora oggi sono le limitazioni dell’intelligenza artificiale. La nostra soluzione a riguardo è quella di utilizzare l’IA solamente dove necessario: se alcuni step del compito possono essere svolti con la sola euristica, cioè con la logica tradizionale, preferiamo questo approccio in modo da filtrare le richieste e alleggerire il carico sul modello.

Anche tu stai pensando di sviluppare un prodotto digitale che richiede l’utilizzo di intelligenza artificiale? Se ti abbiamo incuriosito con il nostro lavoro, o se pensi di aver bisogno di una mano per sviluppare la tua idea, non esitare a contattarci senza impegno e senza costi. Organizzeremo una call conoscitiva per condividere idee e stabilire se possiamo fare qualcosa per te.