Guidare l’intelligenza artificiale – di Agostino Clemente

Relazione al Convegno “Il grande cielo di Paolo Cendon”, Roma, 21 aprile 2026

Sommario: 15.1. Premessa – 15.2. La guida della macchina – 15.3. Il ruolo del produttore del modello nello sviluppo e nell’addestramento – 15.4. Il ruolo del deployer (chi organizza l’implementazione della tecnologia) – 15.5. Il ruolo dell’utilizzatore finale (prompting e uso consapevole) – 15.6. Conclusione.

15.1       Premessa

Ho conosciuto Paolo Cendon prima sui libri e poi di persona. Erano i tempi in cui cercavo risposte alternative alla pigra tutela dei diritti della persona, e avevo scoperto il “danno esistenziale” come costruito da Cendon. Ossia uno strumento che declinava, sul piano risarcitorio, la tutela integrale della persona. Il riferimento erano le “attività realizzatrici della persona”, al centro della famosa sentenza Mengoni della corte costituzionale del 1986 che stabilizzò il riconoscimento del “danno biologico” nel nostro ordinamento. E tuttavia Cendon evidenziò che solo un sistema zoppicante poteva ridurre i pregiudizi alla persona al “danno alla salute”, medicalmente valutabile.

A quel tempo io conducevo con Rita Coco un programma organico di seminari sui diritti della persona, nell’ambito del corso di diritto civile di Stefano Rodotà, alla Sapienza. Poi i miei interessi si concentrarono su proprietà intellettuale e data protection. Temi che Paolo non coltivava ma di cui coglieva la rilevanza, non soltanto per la società nel suo complesso, ma anche per la costruzione della dimensione della personalità e dei diritti dell’uomo.

Erano i temi, alcuni dei temi, che Stefano Rodotà affrontava nel suo corso di diritto civile. Un corso in cui illustrava l’impatto delle tecnologie sul sistema dei diritti, trattazione compendiata nel bellissimo volume ‘Tecnologie e diritti’. Dedicare un corso di diritto civile a quelle tematiche, all’epoca, più che innovativo poteva apparire addirittura “stravagante”, al confronto con i contenuti tradizionali dei corsi di diritto civile delle altre cattedre.

Fu così che Paolo mi affidò la cura del volume collettaneo ‘Privacy’, che credo sia stato la prima trattazione organica del sistema di protezione dei dati personali alla luce della legge 675 del 1996, che finalmente aveva dato cittadinanza nel nostro ordinamento al diritto alla privacy, declinato modernamente come diritto alla ‘autodeterminazione informativa’, ossia il diritto a controllare le informazioni che ci riguardano. Un volume scritto proprio da molti dei collaboratori di Rodotà, all’epoca all’inizio della propria carriera e poi affermatisi in ambito professionale o accademico.

Con Paolo diventammo amici. Ma lui era un maestro nato, una guida per molti, per tantissimi. Successivamente mi offrì più volte l’opportunità di scrivere contributi e/o di curare volumi nelle materie che io coltivavo. C’è stato un periodo in cui Paolo dirigeva innumerevoli collane di libri e trattati in tutte le case editrici italiane. Aveva inventato un metodo – ispirato all’Harvard style – che non era soltanto un modello redazionale innovativo per l’Italia, ma rappresentava la garanzia di pubblicazioni “utili”, che facevano il punto del diritto vivente, trovandone le chiavi di lettura, talvolta fornendo gli strumenti del suo superamento.

In questo modo le pubblicazioni da lui dirette rappresentavano una sorta di restatement del diritto vivente. Una grande opera collettiva, a cui hanno partecipato non soltanto gli accademici, ma anche molti giovani studiosi e soprattutto gli operatori pratici: giudici, avvocati, notai. Fu emozionante per me trovare molti di questi volumi nelle biblioteche di Oxford e Harvard, e tra essi il volume Privacy che avevo curato.

Ho voluto fare questa premessa per ricordare come Paolo avesse la piena consapevolezza dell’importanza e della necessità di porre la persona al cuore del diritto delle tecnologie, e anche perché avevo iniziato a parlare con lui della possibilità di curare un’opera analoga al volume Privacy, questa volta sui temi allora emergenti dell’intelligenza artificiale. Poi, però, prima che il progetto potesse germinare, Paolo ebbe i primi problemi di salute e io accantonai l’idea. In qualche modo, adesso vorrei chiudere il cerchio e dedicare a lui queste riflessioni minime sull’intelligenza artificiale e su come essa possa essere guidata al servizio della persona.

15.2      La guida della macchina

Le piattaforme di intelligenza artificiale generativa sono “macchine”, ossia sono strumenti tecnologici che uomini e donne possono utilizzare. Dico una cosa ovvia. Tuttavia, mi capita abbastanza frequentemente di leggere o ascoltare qualcuno che sente la necessità di ricordare che, in fondo, l’AI non è veramente “intelligente”, perché non funziona come l’uomo. Ma il punto non è se e quanto funzioni come l’uomo, bensì se e come possa aumentare l’intelligenza degli uomini e delle donne.

Più in particolare, lo scopo di queste pagine è ragionare su come questa macchina possa essere “guidata” al fine, non soltanto di fornire le sue straordinarie funzionalità, ma anche di renderla più affidabile, riducendo errori, bias, allucinazioni, e dunque anche i rischi di discriminazioni e di risposte fuorvianti. In definitiva, si tratta di comprendere come l’intelligenza artificiale possa essere indirizzata al servizio della persona. Naturalmente il tema è estremamente complesso, per cui non posso non limitarmi a fornire soltanto alcuni cenni, per tentare di fornire una prospettiva di analisi, e non certo un’analisi completa.

Non mi occuperò di piattaforme verticali, specializzate per il mondo legale. Alcune delle cose che dirò si applicherebbero anche a quell’ambito, ma per gran parte l’oggetto dell’analisi sarebbe diverso.

Mi occuperò invece delle piattaforme per finalità generali. Per intenderci: ChatGpt, Gemini, NotebokLm, Claude, Perplexity, che a sua volta usa prevalentemente alcune versioni di Gpt e Claude. Esaminerò in modo particolare l’interazione con i cosiddetti “assistenti AI”. Tuttavia, quanto dirò si può estendere in buona misura anche all’impiego degli agenti di AI, ossia agli strumenti che non si limitano a “rispondere” ma che possono essere programmati per agire al servizio dell’utente, andando a cercare le informazioni utili e a svolgere le attività richieste.

La trattazione sarà, in un certo senso, meta-normativa: salvo qualche cenno, non considererò gli adempimenti specifici previsti dalle normative vigenti, a partire da quelle dedicate proprio all’AI, in particolare il regolamento europeo “Ai Act” e la legge italiana n. 132 del 2025. Nemmeno considererò espressamente le discipline di carattere generale quali, tra le più rilevanti, le norme a protezione dei dati personali e quelle in materia di diritti d’autore. L’oggetto della trattazione sarà invece, per la gran parte, il comportamento dei soggetti dell’ecosistema dell’intelligenza artificiale, nell’ambito della loro autonomia privata ma anche nel rispetto dei principi generali del diritto, nazionale e universale.

La disamina si svilupperà su tre livelli.

Il primo livello dovrebbe spiegare come, benché il machine learning si basi in prima battuta su processi governati dalle leggi della statistica, esso possa essere addestrato dal “produttore” per ridurre bias, discriminazioni, allucinazioni.

Il secondo livello concerne il ruolo del deployer: come può orientare la macchina per ridurre errori, pregiudizi, e così via?

Il terzo livello è quello della persona fisica che utilizza la macchina.

Coerentemente con lo scopo di questa disamina ho consultato più sistemi di intelligenza artificiale per preparare il testo. Ho posto domande e trovato risposte, a volte appaganti, altre volte meno.

15.3      Il ruolo del produttore del modello nello sviluppo e nell’addestramento

L’architettura del machine learning si basa su processi statistici di manipolazione dei dati. Il meccanismo di base consiste nella scomposizione delle informazioni in tasselli o componenti (detti token) e poi nella trasformazione delle informazioni in vettori numerici multidimensionali. Ossia le informazioni vettorializzate sono posizionate in relazione alla reciproca vicinanza di significato, di funzione, di complementarità, ecc. Ad esempio: ‘gatto’ è più vicino a ‘cane’ e più lontano rispetto a ‘marmo’; ma in un’altra dimensione potrebbe essere abbastanza vicino a ‘tavolo’ e lontano da ‘grotta’; in un’altra si collocherebbe piuttosto lontano da ‘fucsia’ e più vicino a ‘bianco’ o a ‘nero’.

Ma attenzione! Questo è soltanto il punto di partenza. Il fatto che un LLM sia una macchina stocastica non significa che funzioni a caso, e nemmeno significa che scelga necessariamente risposte plausibili che tuttavia siano errate.

L’approccio ai sistemi generativi è talvolta sicuramente condizionato dall’esperienza delle “allucinazioni” che tutti abbiamo fatto. Perché la macchina ha le allucinazioni? In un paper alcuni ricercatori di Open AI hanno spiegato che il fenomeno si deve ad alcuni meccanismi premiali per cui la macchina è stata istruita a rispondere comunque, e magari risparmiando energia, pure quando la risposta richiederebbe maggiore approfondimento e anche quando la risposta più corretta sarebbe “non lo so”.

La domanda spontanea è: perché sono stati introdotti questi meccanismi premiali?

In parte questo fenomeno è dipeso da una scelta di marketing di occupare il mercato quando il prodotto non era ancora affinato. Per un’altra parte, però, le cosiddette allucinazioni dipendono dalla natura originaria dei modelli, che sono modelli creati per generare contenuti. Ora, in molti ambiti, è un plus avere una macchina che risponde sempre e comunque. Pensate ad una traduzione o ad un adattamento linguistico; o ad una lettera o a un’immagine. Non vogliamo necessariamente la risposta migliore, ma abbiamo bisogno di una risposta. In caso anche di più risposte tra cui scegliere. Meglio una o tante che nessuna.

Ma vi è di più: anche quando le risposte “sbagliate” ci disturbano, come spesso capita nell’impiego in ambito giuridico, siamo sicuri che preferiremmo sempre “una” risposta unica? La verità è che, soprattutto quando la domanda è difficile, c’è da dubitare che ricevendo una sola risposta saremmo appagati. E allora meglio averne più di una e poi scegliere.

Ma veniamo al punto vero: l’impostazione di partenza della macchina stocastica – quella che potremmo chiamare la fase di addestramento originario – viene integrata da ulteriori fasi di preparazione: lo stesso addestramento (“training”) viene via via migliorato con l’impiego di nuove informazioni, possibilmente di qualità. I dati vengono auspicabilmente selezionati per garantire affidabilità, trasparenza e accuratezza, e dunque anche per evitare distorsioni discriminatorie e tendenziose.

Inoltre, alle informazioni, all’origine prevalentemente in lingua inglese/americana, sono state aggiunte via via informazioni in altre lingue. Ad esempio, per dire, vengono acquisite le sentenze dei giudici italiani.

Dopo la fase di addestramento, i modelli sono poi sottoposti al cosiddetto “allineamento”: ossia il funzionamento della macchina viene corretto ed orientato per rispettare certi canoni. Avrete visto ad esempio come le piattaforme siano state restie a mostrare nudità (anche innocue, come immagini virtuali in costume da bagno); ma ricorderete anche come DeepSeek si bloccasse quando le si chiedeva di riferire la repressione in Piazza Tienanmen nel 1989.

Sia nella fase di addestramento che in quella di allineamento operano varie tecniche. Ne ricordo qui alcune:

• Fairness-aware learning

È l’insieme di tecniche usate per ridurre discriminazioni e squilibri nei modelli.

L’idea è fare in modo che il sistema non tratti peggio certi gruppi di persone, per esempio per genere, età, origine o altre caratteristiche sensibili.

In pratica si interviene sui dati, sull’addestramento o sulla valutazione per controllare e limitare i bias.

Reinforcement Learning with Human Feedback (RLHF)

È un metodo per addestrare un modello usando il giudizio umano.

Invece di imparare solo dai dati testuali, il sistema riceve anche indicazioni del tipo: “questa risposta è migliore di quest’altra”.

Così il modello viene spinto a dare risposte più utili, più sicure e più allineate alle preferenze umane.

• Red-teaming e testing

Il red-teaming consiste nel mettere alla prova il modello prima del lancio, cercando di “farlo sbagliare” apposta.

Un gruppo di persone prova a stressarlo con richieste difficili, ambigue o malevole per trovare punti deboli: errori, allucinazioni, rischi di sicurezza, contenuti impropri, aggiramenti delle regole.

Serve a scoprire problemi prima che il sistema venga messo sul mercato.

• Retrieval-Augmented Generation (RAG)

È un’architettura in cui il modello recupera informazioni da fonti esterne rilevanti, come documenti, database o knowledge base.

Serve soprattutto a:

1. rendere le risposte più aggiornate e precise
2. ridurre le allucinazioni
3. far rispondere il sistema sulla base di documenti specifici

Consideriamo inoltre altri tre profili:

1. work in progress: si deve considerare che i modelli in uso sono in progress. Sono tutti in evoluzione e sappiamo bene che ce ne sono diversi e che una stessa piattaforma offre diversi modelli, in qualche caso a seconda dell’abbonamento che viene sottoscritto;
2. reasoning model: ci sono modelli in cui l’elaborazione è più lenta e più meditata e in cui essi “sembrano” ragionare;
3. variabilità delle offerte: il grado di affidabilità dei modelli impiegati può essere diverso, sia nel tempo che in relazione alle diverse offerte.

In definitiva, come forse è ovvio, la tecnologia può essere usata per fare del bene così come per fare del male. E può capitare – ahimè spesso – che la tecnologia venga usata per scopi egoistici, per il potere e per il profitto. Proprio nei giorni scorsi (aprile 2026) Anthropic ha dichiarato che il suo nuovo modello Mythos è troppo potente per essere rilasciato sul mercato. Esso, infatti, sarebbe in grado di bucare difese informatiche finora ritenute invulnerabili. Quindi, per un primo periodo, è stato messo a disposizione soltanto di organizzazioni dedite alla protezione dei sistemi, per trovare nuovi strumenti di difesa. Ora però la domanda è: cosa accadrà (cosa accade) quando nuove soluzioni iperperformanti vengono trovate da aziende meno scrupolose o da aziende o centri di ricerca controllati da Stati non proprio attenti ai profili etici?

15.4      Il ruolo del deployer (chi organizza l’implementazione della tecnologia)

Passiamo ora al deployer, cioè l’organizzazione o impresa che mette il sistema a disposizione degli utenti finali. Ad esempio, uno studio legale che adotta un software di terze parti basato sull’AI diventa deployer di quella soluzione per i suoi avvocati interni o clienti. Il ruolo del deployer è cruciale per orientare la macchina e prevenire bias o allucinazioni durante l’uso effettivo. Ma come può farlo?

• Contratti e accordi con i fornitori: Il primo livello è a monte, nelle scelte contrattuali. Un’azienda che implementa un modello di AI dovrà sceglierlo anche sulla base della verifica della conformità del prodotto alle norme (a partire dall’AI Act stesso), auspicabilmente documentando queste verifiche, in modo da poter dimostrare la propria diligenza. Pensiamo ad esempio alla vicenda di DeepSeek: il Garante della privacy ne ha ordinato la sospensione delle attività in attesa di chiarimenti. Pertanto, l’eventuale uso della piattaforma potrebbe implicare conseguenze illecite, almeno in certe circostanze. Così, se fossero immessi nella piattaforma dei dati personali, che potrebbero così essere trasferiti fuori dell’UE. Ciò, naturalmente, a meno di non avere elementi per ritenere infondate le preoccupazioni del Garante della privacy.
• Policy aziendali e governance interna: oltre ai contratti con i terzi, il deployer deve guardare in casa propria. Potrà e dovrà stabilire policy interne chiare su come l’AI vada usata dall’organizzazione. Queste linee guida aziendali dovrebbero coprire aspetti come: i tipi di compiti per cui l’AI è approvata o vietata, il livello di supervisione umana richiesto, la gestione dei dati (es: vietato inserire nel prompt dati personali identificativi dei clienti, per evitare violazioni privacy), e procedure di escalation se l’AI fornisce output dubbi. Ad esempio, una società potrebbe adottare una policy per i propri dipendenti sull’uso di strumenti come ChatGPT: “si può usare per ricerche preliminari o bozze generali, ma è proibito incollare il testo di contratti confidenziali nel prompt” – tutelando così segreto professionale e compliance GDPR. Anche per l’AI rivolta al pubblico, servono policy: pensiamo a una banca che implementa un chatbot AI per consigliare prodotti finanziari: l’azienda deve decidere cosa l’AI può dire o non dire, impostare soglie oltre cui deve passare la mano a un operatore umano, etc.
• Formazione e AI literacy del personale: le policy, per non restare carta, vanno spiegate e fatte vivere. Ecco perché una componente chiave è la formazione. Il deployer dovrebbe investire nel migliorare la AI literacy di tutti gli operatori coinvolti affinché comprendano sia le potenzialità che i limiti della tecnologia. Ma la formazione deve essere effettiva. Non possono bastare delle lezioncine, in aula o in video. Occorre erogare un apprendimento esperienziale, che consenta di orientare il mindset del personale. Ad esempio, si potrebbero insegnare pratiche di prompting efficace (come porre le domande in modo circostanziato) e l’abitudine a verificare le fonti degli output. Un personale consapevole dovrebbe tendenzialmente riconoscere quando l’AI sta andando fuori strada (un risultato palesemente allucinato o un bias improprio). La formazione dovrebbe toccare anche gli aspetti legali ed etici: un dipendente deve sapere che usare un algoritmo decisionale in un certo modo può attivare l’art.22 GDPR (decisioni automatizzate significative) e quindi richiedere il consenso dell’interessato o altre garanzie. Oppure, nel caso di una AI di supporto legale, l’avvocato deve avere ben presenti i propri doveri deontologici – come il dovere di competenza e il dovere di segretezza – che non possono essere delegati a una macchina. In pratica, la responsabilità finale resta umana e il personale va formato per esercitarla. Come è noto, la formazione, per lo meno sotto il profilo della c.d. “literacy” (alfabetizzazione) è ora un obbligo legale per tutti i deployer, essendo prescritta dall’AI Act a decorrere dal 2 febbraio 2025. La legge italiana sull’intelligenza artificiale raccoglie il testimone e prevede all’art. 12 la costituzione di un Osservatorio sull’adozione di sistemi di intelligenza artificiale nel mondo del lavoro, con il compito, tra l’altro, di promuovere la formazione di lavoratori e datori di lavoro in materia di intelligenza artificiale.
• Design dell’interfaccia utente: un aspetto spesso sottovalutato è che il modo in cui l’AI viene presentata all’utente finale può influire enormemente sul modo in cui verrà usata e compresa. Il deployer che sviluppa (o personalizza) l’interfaccia dell’AI può inserirvi accorgimenti per mitigare bias e fraintendimenti o dare istruzioni su come interagire con la macchina.
• Controlli ex ante e test di compliance: prima di implementare l’uso di un sistema di AI, il deployer dovrebbe condurre una sorta di “collaudo etico-legale”. Questo include test specifici per bias (ad esempio verificare con dataset di prova se un modello di selezione CV favorisce candidati maschi rispetto a femmine a parità di qualifiche) e per altri rischi (propensione a produrre contenuti scorretti, fragilità a input ambigui, etc.). Nel caso di sistemi classificabili ad alto rischio, l’AI Act prescrive che si effettui una Valutazione d’Impatto (c.d. FRIA: cfr. art 27 AI Act).

• Monitoraggio e miglioramento continuo: il lavoro del deployer non finisce con il lancio del sistema. È buona prassi istituire un monitoraggio costante dell’AI in esercizio. Ciò significa raccogliere metriche di outcome per individuare eventuali criticità nel tempo, o casi imprevisti di errore/bias.

15.5      Il ruolo dell’utilizzatore finale (prompting e uso consapevole)

Ed eccoci al terzo livello: l’utente finale, ovvero la persona – spesso un non-tecnico – che interagisce direttamente con il sistema di AI per ottenere un risultato. È il momento in cui l’utilizzatore deve saper porre le domande e deve capire le risposte. E magari deve imparare a farsi porre le domande, a dialogare criticamente con la macchina.

Possiamo pensare a un avvocato che chiede a un assistente virtuale di aiutarlo a redigere un atto, o a un giudice che consulta un sistema per la ricerca dei precedenti. Ma pensiamo anche ad un medico che utilizza un algoritmo diagnostico. Spesso si dice che l’AI dev’essere “human-in-the-loop”: ecco, l’utilizzatore è il “loop” finale, l’ultimo anello di congiunzione tra l’intelligenza artificiale e la realtà. Il suo comportamento può fare la differenza tra un uso proficuo e uno disastroso della tecnologia.

Vediamo ora perché l’utente ha un ruolo attivo nel determinare la qualità e l’affidabilità del risultato generato e come può esercitarlo al meglio.

• Il potere (e la responsabilità) del prompt: tutto inizia con la formulazione della richiesta all’AI. Un detto informatico è “garbage in, garbage out”: se fornisci input scadenti, otterrai output scadenti. Nel caso dei modelli generativi, un prompt vago o mal posto può portare la macchina a produrre risposte ambigue o fuorvianti. L’utilizzatore, quindi, deve imparare l’arte di porre prompt chiari, contestualizzati e specifici. Ad esempio, chiedere a un’AI: “scrivi una memoria difensiva” è troppo generico e probabilmente genererà un testo standard generico. Invece, un utente accorto fornirà più contesto: “ecco i fatti X, Y, Z della causa; produci una bozza di memoria difensiva in tono formale, citando la giurisprudenza rilevante, e con argomentazioni a favore di Tizio su…”. Più diamo contesto e istruzioni precise, più l’AI avrà “binari” entro cui muoversi, riducendo il rischio di svarioni. Sono ormai diffuse formulazioni di prompt alla portata di tutti, che ognuno può personalizzare o creare ex novo: ad esempio, fornire il contesto all’AI (“tu sei un assistente legale specializzato in diritto civile…”), chiedere all’AI di esplicitare passo-passo il ragionamento (la c.d. Chain-of-Thought può aiutare a scoprire buchi logici), oppure specificare il formato della risposta atteso (per es. “elenca puntualmente in articoli i punti X, Y, Z”).
• Capacità di contestualizzazione e conoscenza del dominio: proseguendo il punto precedente, l’utente finale spesso deve supplire a un limite dell’AI: la mancanza di comprensione profonda del contesto reale. L’AI non sa nulla del mondo al di fuori di quello che ha appreso nei dati; non ha senso comune né conoscenza aggiornata, a meno che non gliela forniamo. Quindi un utilizzatore esperto arricchisce il prompt con dati di contesto pertinenti. Ad esempio, se poniamo un quesito in materia giuridica, conviene fornire all’AI anche dettagli specifici (nomi delle leggi rilevanti, anno dei fatti, eventuali peculiarità giurisdizionali) invece di aspettarsi che “sappia già” di cosa parliamo. Questo diminuisce il rischio che l’AI faccia congetture sbagliate per riempire i buchi. Se un modello fornisce una risposta che potrebbe avere più interpretazioni, è compito dell’utente porre le domande che consentano di superare l’ambiguità.
• Controllo critico e verifica dell’output: questo è forse il punto più importante. Mai prendere l’output dell’AI come oro colato.  L’utilizzatore finale deve essere un filtro critico tra ciò che la macchina sforna e l’adozione pratica di quel risultato. In ambito legale abbiamo visto diversi casi imbarazzanti: avvocati che hanno inserito nei propri atti citazioni inventate, di norme o di precedenti giudiziali. Questo accade quando l’utente abdica al suo ruolo critico. Un avvocato diligente, invece, controlla sempre le fonti: se l’AI cita una sentenza X del 2018, bisogna verificarne l’esistenza in una banca dati legale. Allo stesso modo, se l’AI suggerisce una strategia o un argomento legale, l’avvocato deve valutarne la correttezza. Occorre chiedere all’AI di fornire le fonti, se il sistema non lo fa in automatico.
• RAG (Retrieval-Augmented Generation) lato utente: abbiamo già parlato di RAG dal lato dello sviluppatore, ma anche l’utente finale può sfruttare attivamente strumenti di recupero informazioni. Ad esempio, uno studio legale potrebbe avere un proprio knowledge management system con tutti i contratti e pareri passati, e connetterlo all’AI: l’avvocato che cerca una clausola simile a quella di un caso precedente può quindi interrogare l’AI che andrà a pescarla dal repository invece di improvvisarla.
• Regolazione della “temperatura”: un altro strumento di supporto è la regolazione della cosiddetta “temperatura”. Si tratta di impostare le modalità di risposta in modo che aumenti o diminuisca la varietà delle risposte in relazione agli input: a una temperatura bassa corrispondono output regolari e precisi, in un certo senso standardizzati; una temperatura alta implica invece più fantasia e varietà ma anche il rischio di errori e divagazioni. Sulla temperatura può intervenire direttamente con le impostazioni il produttore o lo sviluppatore che impiega l’API. Ma può farlo anche l’utilizzatore finale inserendo le opportune istruzioni nel prompt, chiedendo appunto più regolarità o più fantasia. Per inciso: senza necessità di menzionare la parola “temperatura”.
• Consapevolezza dei limiti etici e legali: l’utilizzatore finale, specie se è un professionista (avvocato, medico, etc.), deve anche essere consapevole delle implicazioni etiche e normative del suo modo di usare l’AI. In primo luogo, deve essere consapevole che l’impiego dell’AI non fa venire meno la sua responsabilità professionale. Come stabilisce anche la legge italiana, l’AI può essere impiegata a supporto dell’attività professionale, ma non può essere impiegata in sostituzione del professionista. Ad esempio, avremo (già abbiamo) chatbot che dispensano consigli legali. Ma, mentre un negozio può sostituire un commesso con un chatbot, assumendosene la responsabilità, l’avvocato non può farsi sostituire.

Va detto, tuttavia, che un professionista oggi potrebbe essere responsabile anche per non aver usato l’AI, ossia per non aver utilizzato gli strumenti tecnologici disponibili per rendere al meglio la propria professione. Analogamente a come oggi un avvocato sarebbe responsabile per non aver usato le banche dati disponibili per trovare i precedenti pubblicati.

Parlando di avvocati, un avvocato dovrà essere attento a non violare la privacy del cliente usando l’AI: se copia-incolla brani di una sentenza non pubblica o dati personali nel prompt di un servizio cloud, potrebbe esporre quei dati a trattamenti non autorizzati. Quindi mai inserire nei prompt informazioni coperte da segreto senza adeguate garanzie contrattuali e tecniche. Naturalmente, sono facili le analogie in altri ambiti professionali.

Infine, non si può non osservare che, sotto il profilo deontologico, è dovere dell’utilizzatore assicurarsi che l’uso dell’AI non lo porti a violare le proprie norme di comportamento: ad esempio, il dovere di competenza gli impone di capire e approvare il contenuto di ciò che presenta, e non può dare la colpa all’algoritmo se qualcosa è sbagliato; mentre il dovere di indipendenza implica di non farsi eterodirigere da strumenti esterni e controllabili.

15.6      Conclusione

Abbiamo viaggiato attraverso i tre livelli – produttore, deployer, utilizzatore – e abbiamo visto che in ognuno la persona guida l’AI, con modalità diverse e auspicabilmente complementari.

In sintesi, possiamo concludere con le parole che userebbe un chatbot con la sua saggezza artificiale: “un produttore coscienzioso progetta un motore giusto e affidabile; un deployer responsabile mette quel motore in un veicolo sicuro, seguendo le regole della strada; e un utente consapevole è il conducente attento che porta a destinazione la macchina senza incidenti”.

[Con dedica speciale a mia madre, Vittoria Settevendemie, che se n’è andata nei giorni in cui scrivevo queste pagine]

Agostino Clemente

Avvocato, partner dello Studio Ughi e Nunziante. Docente all’Università dell’Aquila di Innovazioni, invenzioni, deontologie, bioetica, Componente del comitato italiano dell’Internet Governance Forum. Impegnato attivamente negli Osservatori sulla giustizia civile.