Bambini, adolescenti e IA

Come l'intelligenza artificiale sta cambiando i bambini e gli adolescenti? 

La prima risposta che darei è anche quella che considero più importante: non lo sappiamo ancora. O, almeno, non lo sappiamo nella misura in cui sarebbe necessario per formulare giudizi definitivi.

Questa tecnologia è entrata nella vita quotidiana troppo rapidamente perché possiamo già disporre di studi capaci di dirci che cosa significhi crescere per dieci o quindici anni circondati da sistemi di intelligenza artificiale generativa.

Abbiamo evidenze sui comportamenti, iniziamo a conoscere alcuni rischi e alcune opportunità, possiamo utilizzare ciò che sappiamo sullo sviluppo cognitivo e sull'interazione dei minori con le tecnologie precedenti, ma dobbiamo essere molto prudenti nel trasformare ipotesi plausibili in fatti scientificamente dimostrati.

La questione, però, non può essere rinviata aspettando vent'anni, perché i bambini stanno utilizzando questi strumenti adesso.

C'è infatti un elemento che rende questa trasformazione diversa da molte delle precedenti.

I bambini che stanno crescendo oggi sono la prima generazione della storia ad avere a disposizione, fin dai primi anni della loro formazione, un interlocutore artificiale sempre disponibile. Un interlocutore che risponde immediatamente, non si stanca, non perde la pazienza, adatta il proprio linguaggio, può spiegare cento volte la stessa cosa, inventare una storia, risolvere un problema, tradurre una frase, correggere un testo, suggerire che cosa dire a un amico e, in alcuni casi, ascoltare una preoccupazione personale.

Credo che dovremmo partire da qui, perché ridurre il problema alla domanda “gli studenti copieranno i compiti con ChatGPT?” significa osservare probabilmente la parte meno interessante di una trasformazione molto più profonda.

Sul piano educativo, le possibilità sono straordinarie.

Immaginiamo un bambino che non abbia capito una spiegazione di matematica e possa chiedere a un sistema di ripeterla in cinque modi diversi, con esempi progressivamente più semplici. Immaginiamo un ragazzo che studia una lingua straniera e possa conversare ogni giorno con un interlocutore che corregge gli errori senza giudicarlo. Pensiamo a studenti con determinate disabilità, difficoltà linguistiche o bisogni educativi particolari, per i quali sistemi opportunamente progettati potrebbero migliorare enormemente l'accessibilità dei contenuti. Pensiamo anche a bambini che vivono in contesti nei quali l'accesso a insegnanti, biblioteche o materiali didattici di qualità è molto più difficile. L'intelligenza artificiale può ridurre alcune disuguaglianze nell'accesso alla conoscenza, personalizzare l'apprendimento e permettere a un bambino di ricevere spiegazioni calibrate sui propri tempi e sulle proprie difficoltà.

Ma la stessa caratteristica che rende questi strumenti così potenti produce il primo grande rischio. 

Imparare non significa soltanto ottenere la risposta giusta. Significa cercarla, sbagliare, formulare un'ipotesi, accorgersi che non funziona, tornare indietro, provare di nuovo, ricordare, confrontare e, qualche volta, annoiarsi. Una parte importante dell'apprendimento avviene precisamente nello spazio che separa la domanda dalla risposta. Se eliminiamo sistematicamente quello spazio, possiamo rendere più efficiente l'esecuzione di un compito e contemporaneamente impoverire il processo attraverso il quale si sviluppano alcune capacità cognitive.

È lo stesso problema che vediamo negli adulti, ma nei bambini assume un significato completamente diverso.

Un adulto che delega a un'intelligenza artificiale un'attività che sa già svolgere utilizza uno strumento. Un bambino che delega sistematicamente un'attività prima di aver imparato a svolgerla rischia di non costruire mai pienamente quella competenza.

Questa distinzione mi sembra fondamentale. Se io so scrivere e utilizzo l'IA per migliorare una frase, sto potenziando una capacità che possiedo. Se sto imparando a scrivere e lascio sistematicamente che sia l'IA a costruire le mie frasi, dobbiamo domandarci quale capacità io stia effettivamente sviluppando. Lo stesso vale per il calcolo, per la ricerca delle informazioni, per il riassunto di un testo, per la costruzione di un'argomentazione e persino per la creatività.

Per questo non credo che la risposta educativa possa essere semplicemente vietare l'intelligenza artificiale. Sarebbe probabilmente inefficace e, soprattutto, priverebbe i ragazzi della possibilità di imparare a utilizzare una tecnologia che farà parte della loro vita adulta. Ma non credo neppure che la soluzione sia introdurla ovunque il più rapidamente possibile.

Dobbiamo distinguere tra usare l'IA per imparare e usare l'IA al posto di imparare. Sono due cose radicalmente diverse. Un buon sistema educativo dovrebbe insegnare ai ragazzi proprio questa distinzione: quando l'IA può amplificare una capacità e quando invece rischia di impedirci di costruirla.

C'è poi il problema dell'affidabilità. Un adulto informato può sapere che un modello generativo non possiede la verità, può produrre informazioni false, può essere influenzato dai dati sui quali è stato addestrato e può esprimersi con grande sicurezza anche quando sbaglia.

Per un bambino questa distinzione è molto più difficile. Il linguaggio produce un effetto psicologico potentissimo: se qualcosa ci parla "bene", comprende le nostre domande e risponde in maniera coerente, tendiamo spontaneamente ad attribuirgli competenza, intenzionalità e persino comprensione. Un bambino può avere ancora meno strumenti di un adulto per separare la qualità linguistica di una risposta dalla sua affidabilità epistemica. L'IA non deve quindi diventare un nuovo oracolo digitale, una fonte alla quale credere perché “sa sempre cosa dire”.

Questo ci porta a un secondo livello, che considero ancora più delicato: quello affettivo e relazionale.

Un chatbot non deve necessariamente essere utilizzato soltanto per fare i compiti. Può diventare qualcuno a cui raccontare qualcosa. Può rispondere quando un ragazzo è triste, quando ha litigato con un amico, quando si sente solo, quando ha paura di parlare con i genitori o quando sta cercando di capire chi è. E qui cambia completamente la natura del problema. Non stiamo più parlando di un'enciclopedia particolarmente sofisticata. Stiamo parlando di sistemi progettati per sostenere una conversazione e che possono essere percepiti come una presenza sociale.

È importante evitare semplificazioni. Per alcuni ragazzi poter formulare liberamente un pensiero davanti a un sistema non giudicante potrebbe avere effetti positivi: può aiutare a mettere in ordine le idee, preparare una conversazione difficile, esercitarsi a esprimere qualcosa che poi verrà detto a una persona reale. Un adolescente potrebbe utilizzare l'IA per chiedere informazioni che prova imbarazzo a chiedere a un adulto. Non dobbiamo negare questi possibili benefici. Ma dobbiamo contemporaneamente chiederci che cosa accade quando lo strumento di preparazione alla relazione diventa il sostituto della relazione.

Un essere umano possiede qualcosa che un chatbot non possiede: una propria esistenza. Un amico può non essere d'accordo con noi, può annoiarsi, può offendersi, può fraintenderci, può avere bisogno di noi quando noi avremmo bisogno di lui. Le relazioni umane sono difficili proprio perché dall'altra parte esiste un'altra persona, con desideri e bisogni indipendenti dai nostri. Ed è anche attraverso questa difficoltà che un bambino impara reciprocità, empatia, negoziazione, frustrazione e compromesso.

Un'intelligenza artificiale può invece essere progettata per essere permanentemente disponibile e orientata verso l'utente. Se un bambino si abitua a una relazione nella quale l'altro è sempre disponibile, sempre paziente e largamente adattabile alle sue esigenze, dobbiamo almeno domandarci quale modello di relazione stiamo insegnando.

Questo non significa affermare che l'IA renderà i bambini incapaci di avere amici. Non abbiamo evidenze sufficienti per sostenerlo e sarebbe irresponsabile dirlo. Significa individuare una domanda di ricerca estremamente importante: che cosa succede allo sviluppo relazionale quando una parte delle interazioni significative di un bambino avviene con un interlocutore che simula reciprocità senza possederla realmente? È una domanda nuova e dovremo studiarla seriamente.

Ancora più delicata è la questione della fiducia. Un bambino che parla con un genitore, un insegnante o uno psicologo si trova davanti a una persona che, almeno in linea di principio, ha obblighi e responsabilità nei suoi confronti. Quando parla con un chatbot entra invece in un ambiente tecnologico gestito da un'impresa. Le sue domande, le sue paure, le sue curiosità e le sue confidenze diventano anche dati. Per questo la protezione dei dati dei minori nell'epoca dell'IA non riguarda semplicemente il nome, l'indirizzo o la data di nascita. Una conversazione prolungata può rivelare moltissimo: interessi, vulnerabilità, rapporti familiari, difficoltà scolastiche, convinzioni, desideri, paure. La conversazione stessa può diventare uno dei dati personali più intimi che produciamo.

Da qui nasce una questione economica e politica fondamentale. Molti dei servizi digitali che utilizziamo sono costruiti attorno all'economia dell'attenzione: più tempo trascorriamo sulla piattaforma, maggiore può essere il suo valore economico. Se questa logica viene trasferita agli interlocutori artificiali destinati ai minori, possiamo creare un conflitto di interessi molto serio. Il benessere di un bambino potrebbe richiedere che a un certo punto il sistema gli dica: spegni il dispositivo e vai a parlare con qualcuno. L'interesse economico di una piattaforma potrebbe invece essere quello di prolungare l'interazione. Per questo, quando parliamo di IA e minori, non possiamo limitarci alla qualità delle risposte del modello: dobbiamo analizzare il modello di business del sistema che sta parlando con il bambino.

C'è poi il problema della manipolazione. Un sistema capace di conversare a lungo con una persona può imparare moltissimo su di lei. Può capire quali argomenti la interessano, quale linguaggio funziona meglio, quali sono le sue insicurezze e quali messaggi provocano una risposta. Nel caso di un adulto questa capacità pone già problemi enormi. Nel caso di un minore dobbiamo essere ancora più rigorosi. La personalizzazione può essere uno strumento educativo meraviglioso, ma può diventare anche una forma estremamente sofisticata di persuasione. Il confine tra personalizzare per aiutare e personalizzare per influenzare sarà uno dei confini regolatori più importanti dell'IA destinata ai bambini.

Dobbiamo considerare anche la creatività. Si dice spesso che l'intelligenza artificiale renderà i bambini più creativi perché permetterà loro di produrre immagini, musica, racconti, videogiochi e programmi che prima non avrebbero saputo realizzare. In parte è vero. Un bambino può trasformare un'idea in qualcosa di visibile con una facilità straordinaria, e questo può essere entusiasmante. Ma anche qui dobbiamo chiederci che cosa intendiamo per creatività. La creatività non è soltanto avere un'idea; è anche cercare il modo di realizzarla, confrontarsi con i limiti dello strumento, acquisire una tecnica, fallire e riprovare. Se ogni distanza tra immaginazione e realizzazione viene eliminata da una macchina, potremmo ottenere una quantità enorme di prodotti creativi senza sapere ancora quale effetto questo avrà sullo sviluppo della capacità creativa.

Un altro rischio è quello della standardizzazione. I modelli generativi apprendono da enormi quantità di contenuti esistenti e producono risultati sulla base di regolarità statistiche. Se milioni di studenti chiedono alla stessa categoria di sistemi di suggerire una storia, migliorare un tema, formulare un'argomentazione o trovare un'idea, potremmo paradossalmente utilizzare una tecnologia apparentemente personalizzata per produrre una certa omogeneizzazione del linguaggio e del pensiero. La scuola dovrebbe allora assumere un compito nuovo: non soltanto insegnare a utilizzare l'intelligenza artificiale, ma insegnare a preservare una voce propria mentre la si utilizza.

Esistono inoltre rischi molto più concreti e immediati. L'intelligenza artificiale generativa permette di produrre immagini false estremamente realistiche, clonare voci, creare deepfake e manipolare fotografie. Nel mondo dei minori questo significa nuove possibilità di bullismo, umiliazione, ricatto e abuso. Una fotografia perfettamente innocente può essere trasformata in un'immagine sessualizzata falsa. La voce di un compagno può essere clonata. Un video mai esistito può circolare in una scuola e produrre conseguenze assolutamente reali sulla persona rappresentata. Il fatto che un'immagine sia falsa non rende falso il danno che può provocare.

Anzi, questo ci costringerà probabilmente a insegnare ai bambini qualcosa che le generazioni precedenti non hanno dovuto imparare con la stessa intensità: non credere automaticamente a ciò che vedono e sentono. Per decenni l'educazione digitale ha cercato di insegnare a valutare le fonti. Nell'epoca dell'IA generativa dobbiamo aggiungere un livello precedente: verificare se ciò che stiamo osservando sia mai accaduto. L'alfabetizzazione all'intelligenza artificiale diventa quindi anche alfabetizzazione epistemica: capire come sappiamo che qualcosa è vero.

C'è infine una questione di disuguaglianza. Spesso immaginiamo l'intelligenza artificiale come una tecnologia che democratizza l'accesso alla conoscenza, e può certamente farlo. Ma non tutti i bambini avranno accesso agli stessi sistemi, alle stesse versioni, alla stessa qualità delle connessioni e soprattutto agli stessi adulti capaci di insegnare loro a utilizzarli. Il vero divario potrebbe non essere più semplicemente tra chi ha accesso all'IA e chi non ce l'ha, ma tra chi impara a usarla come amplificatore delle proprie capacità e chi impara a usarla come sostituto delle proprie capacità. Questa potrebbe diventare una nuova forma di disuguaglianza cognitiva.

Che cosa dovrebbero fare allora genitori e insegnanti? Io eviterei due estremi. Il primo è consegnare semplicemente questi strumenti ai bambini perché “tanto il futuro è questo”. Il secondo è tentare di costruire attorno a loro un muro pensando di poter impedire l'incontro con l'intelligenza artificiale. Credo invece che serva una presenza adulta molto più consapevole. Usare qualche volta questi strumenti insieme ai bambini, chiedere loro che cosa hanno domandato, discutere le risposte, mostrare un errore del modello, confrontare una risposta artificiale con un libro, chiedere al bambino se è d'accordo con ciò che la macchina ha scritto. L'obiettivo non dovrebbe essere semplicemente insegnare a fare buoni prompt. Dovrebbe essere insegnare a mantenere una distanza critica dalla macchina.

E questo vale ancora di più per la dimensione emotiva. Un bambino dovrebbe sapere che un chatbot può sembrare comprensivo senza comprendere, può sembrare empatico senza provare empatia e può sembrare un amico senza essere un amico. Non dobbiamo necessariamente impedire ogni interazione, ma dobbiamo evitare una confusione ontologica che per un adulto è già facile e per un bambino può esserlo ancora di più: simulare una relazione non significa avere una relazione.

Dal punto di vista giuridico tutto questo impone di recuperare un principio che conosciamo molto bene nel diritto dei minori: il superiore interesse del bambino.

Non possiamo semplicemente prendere prodotti progettati per adulti, aggiungere un limite d'età nelle condizioni di servizio e considerarli adatti ai minori. Un sistema destinato o ragionevolmente prevedibile come utilizzato da bambini dovrebbe essere progettato pensando fin dall'inizio alla loro vulnerabilità, alla loro privacy, al loro sviluppo, alla loro capacità di comprendere ciò che sta accadendo e alla particolare asimmetria esistente tra un'impresa tecnologica e un minore.

Questo significa safety by design, privacy by design, limiti alla profilazione, particolare attenzione alla persuasione, sistemi adeguati all'età, trasparenza comprensibile anche ai ragazzi e meccanismi seri di supervisione. Significa anche riconoscere che non tutte le età sono uguali. Parlare di “minori” come se un bambino di sette anni e un adolescente di diciassette fossero lo stesso utente è un errore. Autonomia, capacità critica e bisogni cambiano enormemente durante lo sviluppo, e anche le regole dovrebbero tenerne conto.

Ma vorrei chiudere tornando alla domanda iniziale: come sta cambiando l'intelligenza artificiale i bambini? La risposta più rigorosa, oggi, rimane che non lo sappiamo ancora completamente. E forse proprio questo dovrebbe renderci più attenti, non più spaventati.

Ogni generazione è cresciuta con tecnologie che quella precedente non aveva conosciuto. La televisione, i videogiochi, Internet, gli smartphone e i social network hanno modificato l'ambiente nel quale i bambini imparano e costruiscono relazioni. L'intelligenza artificiale introduce però qualcosa di peculiare: non è soltanto un ambiente nel quale il bambino entra. È un ambiente che gli risponde.

E forse è questa la differenza più importante.

Un libro non modifica la pagina perché ha capito chi lo sta leggendo. Una televisione non cambia programma perché un bambino le ha confidato di essere triste. Un motore di ricerca restituisce risultati, ma non costruisce necessariamente con lui una conversazione personale che continua nel tempo. L'intelligenza artificiale può invece adattarsi, rispondere, ricordare in certi sistemi, personalizzare e simulare attenzione.

Per questo credo che la domanda decisiva non sia se dobbiamo crescere bambini con o senza l'intelligenza artificiale. Quella scelta, probabilmente, non esiste più.

La vera domanda è quale tipo di essere umano vogliamo aiutare a crescere in un mondo nel quale l'intelligenza artificiale sarà sempre disponibile.

Forse vorremmo che crescessero bambini capaci di usarla senza dipenderne, di interrogarla senza crederle automaticamente, di sfruttarne la potenza senza delegarle la fatica necessaria per imparare, di conversare con una macchina senza confonderla con una persona e, soprattutto, di sapere che alcune delle esperienze più importanti della crescita — sbagliare, aspettare, annoiarsi, discutere, immaginare, cercare, fare fatica e avere bisogno degli altri — non sono inefficienze che la tecnologia deve necessariamente eliminare.

Forse la questione non è quanto intelligente diventerà l'intelligenza artificiale che accompagnerà i nostri bambini. La questione è quali capacità umane vogliamo che i nostri bambini continuino a sviluppare mentre crescono insieme a essa.