Che cosa significa usare un modello linguistico nella rete aziendale e quali decisioni valutare prima di avviare una sperimentazione.
Riassumere una relazione, preparare una prima bozza, riorganizzare appunti o rivedere del codice sorgente sono attività in cui un modello linguistico può far risparmiare tempo. Se i contenuti sono riservati, però, la domanda non è soltanto quale modello scegliere: conta anche dove vengono elaborati i testi, chi può usare il servizio e quali controlli accompagnano il progetto.
Una delle opzioni è eseguire un modello su un server interno e renderlo disponibile ai computer della rete aziendale. Ollama aiuta a gestire ed eseguire modelli linguistici; gli utenti possono interagire con il servizio da un programma di chat o da un’interfaccia web interna. Il modello lavora sul server, mentre le persone continuano a usare i propri PC.
Questa architettura può essere utile quando si vuole sperimentare l’IA generativa mantenendo l’elaborazione all’interno dell’infrastruttura aziendale. Non basta, tuttavia, installare il software per ottenere automaticamente un ambiente privato, sicuro o senza Internet. Sono il progetto complessivo e le sue regole operative a determinare come vengono trattati i dati.
Il video riassume l’architettura: il server interno esegue il modello e i computer della rete aziendale gli inviano le richieste. Qui sotto trovi anche la trascrizione delle didascalie.
Leggi la trascrizione del video
- Presentazione. Riccardo Corsanici, Project Manager IT. Take Two unisce consulenza IT, formazione e Open Source.
- Architettura. Un LLM può girare su un server aziendale. I computer interni lo usano attraverso la rete locale.
- Richieste. Ollama e il modello risiedono sul server; i PC inviano richieste e ricevono le risposte attraverso la LAN.
- Elaborazione. Il client invia il testo a Ollama. Il modello elabora la richiesta sul server e restituisce la risposta al PC.
- Accesso. Configura l’indirizzo interno del server e il nome del modello. Limita l’accesso ai dispositivi autorizzati.
- Uso offline. Per l’isolamento prepara software, modello e dipendenze prima di scollegare Internet. Le sole opzioni di configurazione non bloccano ogni connessione.
- Verifiche. Verifica qualità, velocità, memoria e accessi con una prova controllata. Poi decidi se estendere il servizio.
Che cosa offre un modello locale
Con un servizio locale l’organizzazione può scegliere il modello, l’hardware e le persone autorizzate. Può inoltre decidere quali interfacce adottare e come gestire aggiornamenti e accessi. Queste scelte danno maggiore controllo sull’ambiente, ma portano con sé attività che in un servizio gestito da terzi sarebbero svolte in parte dal fornitore.
Il modello non diventa per questo un esperto dei processi aziendali. Può produrre bozze e sintesi utili, ma può anche sbagliare, omettere dettagli o presentare come certo un risultato incerto. Le risposte vanno valutate, soprattutto quando incidono su decisioni, clienti, persone o obblighi normativi. Un primo impiego ragionevole è quindi un’attività circoscritta, con risultati controllabili da un operatore.
Che cosa significa davvero “in locale”
Nel caso più semplice, il modello e il programma che lo esegue sono sul server aziendale; i PC inviano le richieste attraverso la rete interna. L’utente vede una chat, mentre il server mette a disposizione il modello e le risorse di calcolo.
Questa descrizione riguarda il percorso della richiesta, non tutte le funzioni dei programmi coinvolti. Un client può offrire ricerca sul web, sincronizzazione o servizi cloud; un’altra applicazione può inviare dati a sistemi esterni. Anche un’installazione locale può quindi dipendere da collegamenti Internet se non viene configurata e verificata con attenzione.
“Locale” non significa neppure che il modello possa consultare automaticamente file, procedure o archivi aziendali. L’accesso ai documenti richiede un’integrazione separata e una gestione attenta dei permessi, affinché ogni persona veda soltanto le informazioni che è autorizzata a consultare.
Le decisioni prima della sperimentazione
Per un responsabile, la prima decisione non è la marca della scheda grafica: è individuare un’attività concreta e stabilire come riconoscere un risultato utile. Si può, per esempio, provare a trasformare rapporti non riservati in bozze di procedure e verificare accuratezza, tempo risparmiato e quantità di correzioni necessarie.
Le prestazioni dipendono dal modello scelto, dalla dotazione del server, dalla lunghezza dei testi e dal numero di richieste contemporanee. Una prova individuale può sembrare rapida e diventare lenta quando la usano più persone. Prima di acquistare hardware o estendere il servizio conviene misurare il carico con esempi realistici e utenti rappresentativi.
Il costo complessivo comprende più del server: energia, manutenzione, aggiornamenti, sicurezza, assistenza agli utenti e tempo delle persone che governano il servizio. Un modello locale può essere adatto a certe esigenze, ma non è automaticamente meno costoso di un servizio esterno. Il confronto va fatto sulle attività previste, sul volume di utilizzo e sulle responsabilità che l’azienda intende assumersi.
Sicurezza e responsabilità
Il servizio deve essere raggiungibile soltanto da dispositivi e persone autorizzati. La versione diretta dell’API locale di Ollama non offre autenticazione e il collegamento HTTP non cifra il traffico: non va esposta senza protezioni alla rete aziendale. La documentazione ufficiale sull’autenticazione descrive il comportamento dell’API locale. Servono regole di accesso, segmentazione e un’architettura approvata dai responsabili IT e sicurezza.
È utile definire anche regole chiare per gli utenti: quali dati possono inserire, quali risultati devono essere controllati e chi risponde dell’uso finale. La minimizzazione dei dati resta importante anche quando l’elaborazione avviene su un server interno. Per la sperimentazione iniziale si possono usare contenuti fittizi o già autorizzati.
L’assenza di Internet richiede una preparazione ulteriore. Software, modello, driver e dipendenze devono essere disponibili in anticipo e compatibili tra loro; occorre inoltre decidere come verificare e distribuire gli aggiornamenti di sicurezza. Disconnettere il cavo di rete non sostituisce un processo per mantenere l’ambiente aggiornato e controllato.
Un progetto pilota misurabile
Una sperimentazione efficace ha un perimetro piccolo e criteri concordati. Prima dell’avvio si definiscono l’attività da provare, gli utenti coinvolti e i dati ammessi. Durante il test si osservano qualità delle risposte, tempi, continuità del servizio, richieste contemporanee e lavoro necessario per correggere gli errori.
Alla fine, il gruppo può decidere se il modello è utile per quel caso, se servono più risorse o se conviene fermarsi. Se l’esito è positivo, l’estensione agli altri utenti richiede di pianificare capacità, assistenza, formazione, aggiornamenti e responsabilità. Un risultato promettente in laboratorio è un punto di partenza, non una prova che il servizio sia pronto per tutta l’organizzazione.
Ollama può rendere accessibile un modello sulla rete interna e offrire all’azienda un maggiore controllo sull’ambiente di esecuzione. La scelta ha senso quando un caso d’uso concreto giustifica le risorse e il governo necessari. Il passo più utile è una prova circoscritta, con criteri chiari e una revisione congiunta di IT, sicurezza e responsabili del processo.