Un'intelligenza artificiale come ChatGPT, Claude o Gemini è un gigantesco sistema che indovina la parola successiva: ha letto enormi quantità di testo e ha imparato a continuare qualsiasi frase in modo plausibile.
In una frase
Un'intelligenza artificiale come ChatGPT, Claude o Gemini è un gigantesco sistema che indovina la parola successiva: ha "letto" enormi quantità di testo e ha imparato a continuare qualsiasi frase in modo plausibile. Da questa semplice capacità nasce tutto il resto.
Le tre matrioske: AI, Machine Learning, Deep Learning
Spesso usati come sinonimi, sono in realtà cerchi concentrici:
┌─ Intelligenza Artificiale ───────────────┐
│ ┌─ Machine Learning ──────────────────┐ │
│ │ ┌─ Deep Learning ────────────────┐ │ │
│ │ │ LLM / AI generativa │ │ │
│ │ └────────────────────────────────┘ │ │
│ └─────────────────────────────────────┘ │
└───────────────────────────────────────────┘
- Intelligenza Artificiale — far fare ai computer cose "intelligenti".
- Machine Learning — il computer impara dagli esempi, invece di seguire regole scritte a mano.
- Deep Learning — Machine Learning basato su reti neurali profonde.
- LLM / AI generativa — il cuore di ChatGPT & co., che vive dentro il Deep Learning.
Come fa l'AI a "leggere"? Token ed embedding
- Il modello non legge lettere o parole intere, ma token (pezzetti di parola): "intelligenza" può diventare "intellig" + "enza".
- Ogni token viene tradotto in una lista di numeri, l'embedding, che ne cattura il significato. Parole con senso simile → numeri vicini. È così che "re" e "regina" finiscono vicini e l'AI può "ragionare" sul senso, non solo sulle lettere.
Il motore: il Transformer
- Nel 2017 un articolo intitolato "Attention Is All You Need" ha introdotto il Transformer, l'architettura che ha reso possibili gli LLM.
- La sua magia è l'attenzione: invece di leggere parola per parola, guarda tutte le parole insieme e capisce quali sono collegate, anche se lontane (in "Marco entra, poi lui parla", l'AI sa che "lui" è Marco).
Come impara: l'addestramento in due tempi
| Fase | Cosa succede | Risultato |
| 1. Pre-training | "Legge" miliardi di pagine prevedendo ogni volta la parola dopo | Sa il linguaggio, ma è grezzo |
| 2. Allineamento (fine-tuning + RLHF) | Delle persone gli insegnano cosa è una buona risposta | Diventa un assistente utile e sicuro |
Curiosità: un modello più piccolo ma ben allineato può battere un modello molto più grande ma grezzo. La "scuola" conta più della "stazza".
Come risponde: indovina, non cerca
- A ogni passo l'AI calcola le probabilità della parola successiva e ne sceglie una, poi ripete. Una parola alla volta.
- La "temperatura" decide quanto è prudente o creativa: bassa = risposte precise e ripetibili; alta = più fantasiose.
- Importante: l'AI non consulta un archivio di verità, genera la continuazione più plausibile. Ecco perché a volte "inventa".
La memoria di lavoro: la context window
- È quanto testo l'AI può "tenere a mente" in una volta (misurato in token): la tua domanda + la conversazione + la risposta.
- Ciò che esce dalla finestra viene dimenticato. Finestre più grandi = può leggere documenti più lunghi in un colpo solo.
Quanto è "grande"? I parametri
- I parametri sono le "manopole" interne che il modello regola mentre impara: si contano in miliardi (GPT-3, nel 2020, ne aveva 175 miliardi).
- Più parametri ≠ sempre meglio: contano anche dati e addestramento. Esistono modelli piccoli (SLM) molto efficienti per compiti semplici.
Perché a volte sbaglia: le allucinazioni
- Un'allucinazione è una risposta sicura ma sbagliata. Non è un capriccio: è il rovescio della medaglia dell'"indovinare".
- Si riduce (dando all'AI delle fonti da cui attingere — è la tecnica del RAG — e chiedendo le citazioni), ma non si azzera: serve sempre l'occhio umano sulle cose importanti.
Oltre il testo: la multimodalità
- I modelli più recenti non leggono solo testo: capiscono anche immagini, audio e video. Puoi mostrare una foto e chiedere cosa contiene, o farti spiegare un grafico.
In sintesi
- L'AI generativa è Deep Learning che indovina la parola successiva.
- Trasforma il testo in token e numeri (embedding), e usa il Transformer per capire i collegamenti.
- Impara in due tempi (pre-training + allineamento) e risponde una parola alla volta.
- Ha una memoria limitata (context window), è fatta di miliardi di parametri e può sbagliare con sicurezza (allucinazioni).
- Capire come funziona è il primo passo per usarla bene in azienda.
Fonti
- Il Transformer: Vaswani et al., Attention Is All You Need, 2017 — arXiv:1706.03762
- I grandi modelli linguistici: Brown et al., Language Models are Few-Shot Learners (GPT-3), 2020 — arXiv:2005.14165
- L'allineamento (RLHF): Ouyang et al., Training language models to follow instructions with human feedback, 2022 — arXiv:2203.02155
Materiale informativo a cura di Rayer Group. Non costituisce consulenza tecnica o legale personalizzata: per il caso concreto valutiamo insieme la situazione specifica.