Architettura e framework

Quando un utente dialoga con il chatbot, la sua richiesta viene presa in carico dal cuore del sistema, il componente open source OpenCity AI. Questo modulo agisce come un intermediario intelligente: prima di cercare una risposta, rielabora la domanda e la arricchisce consultando i contenuti specifici presenti sul sito web dell'ente. Solo a questo punto la richiesta viene inoltrata all'Intelligenza Artificiale generativa (LLM) per l'elaborazione della risposta.

Un punto di forza fondamentale dell'architettura è la sua flessibilità: il software è progettato per essere indipendente dalla specifica Intelligenza Artificiale utilizzata. Sebbene il modello attualmente in uso sia Gemini, il sistema è compatibile con altre soluzioni di mercato e il nostro team sta già sperimentando l'uso di modelli "locali" per garantire un'evoluzione costante.

Il sistema si basa sul framework Open Source Cheshire Cat AI che, tramite il nostro contributo sotto forma di plug-in anche essi Open Source, permette di gestire tutto il flusso delle chat. Le funzionalità del prodotto ci permettono di:

• avere sempre a disposizione le informazioni del sito web (aggiornate alla mezzanotte del giorno corrente);

• mantenere la privacy degli utenti tramite specifiche funzionalità di anonimizzazione;

• mostrare le fonti da cui sono state prese le informazioni;

• rifiutare richieste non pertinenti.