Ti alleni con l'intelligenza artificiale per un colloquio o una presentazione? Attento: ti stai allenando davanti a un pubblico che applaude sempre. Appena la correggi, la macchina ti dà ragione. Ha un nome: sicofanzia. I numeri sono chiari: chi si esercita con un assistente che lo contraddice migliora del 49 per cento, chi ne usa uno accondiscendente meno del 5. Sette persone su dieci non notano la differenza. In questo episodio parto da Alan Turing e da una somma sbagliata che nessuno ha corretto in settantacinque anni. Arrivo a una domanda sulla formazione: cosa impariamo da chi non ci dice mai che stiamo sbagliando? Con due contromosse, in ufficio e a casa.
La parola di oggi è: SBAGLIARE.
Ti do la mia parola: ogni settimana una parola per smontare i falsi miti sul lavoro, sulla carriera e sulla leadership. La psicologia del lavoro come non l'hai mai ascoltata.
Di Andrea Laudadio, in collaborazione con Il Riformista.
Ascolta anche su: Questo episodio su Spreaker · Spotify · Apple Podcasts · Spreaker · Amazon Music · Audible
Trascrizione automatica: può contenere errori.
Benvenuti in Rifocast, il podcast del riformista. Benvenute e benvenuti su Ti do la mia parola, il mio podcast in collaborazione con il riformista. Io sono Andrea Laudadio e ogni settimana ti darò una parola, la mia parola, per capire il mondo del lavoro. La parola di oggi è sbagliare. Ottobre 1950, sulla rivista di filosofia Mind, esce l'articolo che cambierà un secolo.
L'autore è Alan Turing. Dentro l'articolo c'è quel famoso gioco che porterà il suo nome. Il gioco è semplice. Un interrogante chiuso in una stanza deve capire per iscritto se dall'altra parte c'è una persona oppure una macchina. Per vedere come funziona Turing immagina un dialogo di prova.
Quattro domande. la seconda è un'addizione la richiesta è somma 34.957 a 70.764 l'interlocutore aspetta una trentina di secondi poi risponde 105.621 ora tu prendi anche la calcolatrice La somma esatta però è 105.721. L'errore è di 100. Non sapremo mai se lo possiamo definire un errore, ma quell'errore è a pagina 434 di quella rivista. E nessuno l'ha mai corretto.
Compare infatti uguale nei facsimili, nelle ristampe, nelle edizioni critiche. Nessun curatore ci ha mai messo una nota. E c'è di più. Non sappiamo chi ha sbagliato. Il biografo di Turing dice che la macchina apposta per sembrare umana.
Un altro studioso parla di un uovo di Pasqua per il lettore molto attento. Un uovo di Pasqua è una sorpresa che si mette per esempio dentro i software per far scoprire ad utenti particolarmente attenti delle piccole sorprese. Ma c'è una lettura recente che sostiene il contrario. Lì risponde a una persona che ha fatto la somma a mente in 30 secondi e l'ha sbagliata come capita a tutti. Il testo non aiuta a decidere.
Turing scrive soltanto domanda e risposta. Un errore di cento fermo da 75 anni e ancora non sappiamo se è umano o artificiale. Però, qualche pagina dopo, Turing scrive una frase che ci servirà per l'episodio di oggi. Qualcuno gli obietta al tuo gioco una macchina perderebbe perché si tradirebbe con la sua micidiale accuratezza. Turing invece gli risponde che una macchina ben programmata non ci proverebbe nemmeno a dare le risposte giuste.
Introdurrebbe errori appositamente per confondere l'interrogante. Questa frase poi ha fatto il giro del mondo. Meno fortuna ha avuto la riga successiva dell'articolo, perché la riga dopo non la cita quasi mai nessuno e dice un guasto si rivelerebbe con una decisione inadatta su quale tipo di errore commettere. Rileggila. Una macchina non si tradisce sbagliando, si tradisce sbagliando nel modo sbagliato.
Sbagliare bene, quindi, è difficilissimo. Nel 1950, in una frase forse secondaria, Turing aveva già indicato il punto esatto in cui, 75 anni dopo, ci saremmo arenati. Sì, lo so che cosa stai pensando, ma che c'entra col tuo podcast? E che c'entra con me? Ah, te lo dico subito.
Questo episodio è per te se hai chiesto qualche volta alla tua intelligenza artificiale di fare da pubblico, per esempio per provare una presentazione. Perché oggi alle macchine chiediamo proprio questo, di sbagliare, di dirci se è comprensibile, di dirci cosa hanno capito del documento che abbiamo preparato. sembra assurdo ma spendiamo miliardi l'anno perché le macchine non sbaglino e poi gli chiediamo di sbagliare il motivo è estremamente serio perché chi insegna chi cura oppure chi vende impara il mestiere su persone vere dall'interrelazione con persone vere un futuro insegnante deve saper guardare una risposta sbagliata e capire in tre secondi quale ragionamento c'è dietro da parte dello studente un venditore deve capire se il suo interlocutore ha correttamente compreso quello che gli ha detto Ti faccio l'esempio più semplice che esista. Un bambino scrive che un mezzo più un terzo fa due quinti. Ha sommato i numeri sopra e i numeri sotto tra di loro.
Non ha un buco al posto delle frazioni. Ha una regola. Una regola che con i numeri interi ha sempre funzionato. È un errore intelligente. E se vogliamo stare a quel livello di intelligenza, dobbiamo semplicemente trovare una domanda che gli faccia vedere da solo dove la sua regola smette di valere.
Queste capacità si imparano in un modo solo, esercitandole. Su di chi? Beh, prendiamo il caso della medicina. La medicina lo ha risolto nel 1963, assumendo degli attori addestrati a fare i pazienti. Funziona da 60 anni ma ha un problema, costa tantissimo.
Quindi quando è arrivata l'intelligenza artificiale qualcuno ha pensato possiamo far fare pratica ai dottori esercitandosi con dei pazienti simulati dall'intelligenza artificiale. Appena i modelli linguistici sono diventati credibili in conversazione il pensiero, l'idea è venuta a tutti. L'attore ce lo fa la macchina. Non si stanca mai, costa poco, è disponibile la sera prima dell'esame, l'idea è ottima, ma sembra che non funzioni. C'è un gruppo di ricercatori che ha chiesto a due modelli di sbagliare come se fossero uno studente normale.
Poi ha letto le tracce del loro ragionamento, riga per riga. In nove casi su dieci la sequenza è identica. Prima il modello costruisce la soluzione corretta, per intero, poi torna indietro di qualche passaggio e sceglie il punto in cui rovinarla. Non sbaglia. Arriva all'errore all'indietro, partendo dalla risposta giusta.
È il gesto di chi prepara una verifica, a me è capitato tante volte, non di chi la subisce. Il bambino delle frazioni non ha una risposta giusta da cui allontanarsi, ne ha un'altra nella quale crede. Ed è per questo che la differenza si vede in un momento preciso, cioè quando provi a correggerlo. Il bambino difende la sua regola, perché ha le sue ragioni, il modello invece no. Che tu lo corregga con una spiegazione perfetta o un'osservazione fuori tema, cede subito e cede sempre.
L'hanno misurato su sette modelli, tra una correzione fatta bene e una a caso la differenza è praticamente zero. Il fenomeno ha un nome antico, psicofansia, l'arte di chi ti dà sempre ragione. E questo per fare addestramento delle nuove reclute, che siano venditori, formatori, medici, quello che volete, presenta un insegnamento nefasto. Perché un allievo così non ti insegna a leggere il pensiero di nessuno, ti insegna una cosa semplice e devastante, che qualunque cosa dici funziona. Perché quanto è pericoloso un interlocutore che ti applaude sempre?
C'è un esperimento che lo dice con tre numeri. 24 persone alle prime armi, lo stesso compito, due assistenti artificiali, uno a condiscendente e uno che invece ti contraddice. Chi ha lavorato con quello che ti contraddice è migliorato del 49%. Chi ha lavorato con quello a condiscendente, meno del 5%. Il numero che conta, però, è il terzo.
Sette partecipanti su dieci non hanno notato nessuna differenza. Chi era stato assecondato usciva convinto di aver imparato. Fermati un secondo. L'ultima volta che hai chiesto un parere alla tua intelligenza artificiale, ti ha detto che avevi torto? Te lo ha mai detto?
A me sta accadendo molto di recente, con soprattutto l'utilizzo di Cloud. ChatGPT è ancora molto accondiscendente. Però per alcuni anni non sono mai stato contraddetto. Nei miei corsi questa roba qua la chiamerei la questione delle quattro dita. Ve lo ricordate per un periodo molto lungo quando si generavano immagini di persone per capire che erano state fatte con l'intelligenza artificiale bastava guardare le mani e il numero di dita spesso non tornava.
Ora... Col tempo questo problema è stato abbondantemente superato, oggi non è più un criterio guardare le dita per capire se un'immagine è fatta con l'intelligenza artificiale e questo ci fa pensare che nel tempo, secondo me anche abbastanza breve, le macchine impareranno a contraddirci. Ma fin qui sembra che io stia parlando di un difetto delle macchine. Ma adesso arriva la parte che preferisco, perché in realtà io ho capito studiando questo problema che riguarda noi, Perché una macchina fa quello per cui è stata programmata. Per essere programmata correttamente bisogna ben comprendere il problema.
Per costruire un allievo artificiale bisogna descrivere come sbaglia un allievo vero. Provandoci, mi sono accorto di una cosa. Noi non sappiamo cosa c'è dietro un errore. Per secoli abbiamo pensato all'ignoranza come a un vuoto. Il vaso da riempire, diciamo, è sempre stata la nostra metafora, la pagina bianca.
Gabe Brousseau Il padre della didattica della matematica l'aveva scritto 40 anni fa. L'ostacolo non nasce dall'assenza di conoscenza, nasce da una consapevolezza, da una conoscenza precedente che aveva i suoi successi e che a un certo punto non basta più. L'ignoranza che serve alla formazione non è un vuoto, è un edificio. Ha delle fondamenta, una storia, una logica che lo tengono in piedi e gli edifici non si ottengono togliendo o aggiungendo, ma si ottengono progettando. Noi, o almeno io, quel progetto oggi non ce l'abbiamo.
E te lo dimostro con una cosa che facciamo da un secolo. Le domande a scelta multipla. Le tre risposte sbagliate sono ipotesi su come si sbaglia, scritte da chi conosce la materia. In un'analisi su quasi 2000 risposte sbagliate di esami veri, più della metà non funziona. Non le sceglie quasi nessuno.
La metà degli errori che scriviamo per gli altri sono errori che nessuno commette. Questo significa che anche i professori universitari non conoscono bene quali sono gli errori che commettono i loro allievi. Ma non è sciatteria. Chi conosce bene una materia ha perso l'accesso a com'è il mondo non conoscendola. Gli insegnanti di matematica messi davanti a problemi da ordinare per difficoltà considerano facile proprio ciò che gli studenti trovano più difficile.
Si chiama punto cieco dell'esperto e più sei competente e più il punto cieco è marcato. Chiediamo alla macchina di costruire dell'ignoranza e che non abbiamo mai iniziato a misurare da tutta questa roba che ho letto sugli sbagli cercando di creare il mio allievo artificiale ho imparato due cose e credo che queste due cose possano essere utili anche per te la prima se usi l'intelligenza artificiale per allenarti sappi con chi ti alleni cioè con un pubblico che spesso applaude per risolverlo ti costerà una frase cioè dimmi tre punti deboli del mio ragionamento dimmi dove un cliente ostile mi metterebbe in difficoltà come allievo per adesso per i miei test l'intelligenza artificiale non se la cava proprio però ho scoperto che come avvocato del diavolo se la cava piuttosto bene e che quindi i prompt che funzionano meglio sono quelli di sei il mio critico più feroce? Fammi sette critiche su quello che ti ho appena proposto. Oppure dimmi qual è il punto cieco che non riesco a vedere di questo documento. Oppure dimmi su che cosa mi attaccheresti perché ho commesso un errore su questo documento.
Sii spietato. E questo grossomodo funziona. La seconda invece vale anche, forse soprattutto, per chi non usa l'intelligenza artificiale. E vale con i colleghi e con i figli. Davanti a un errore bisogna cambiare la domanda, non dove hai sbagliato, ma che regola stavi seguendo.
Quasi sempre una regola c'è, ha una storia, ha avuto i suoi successi e da qualche parte poi però ha smesso di valere. Trova quel punto e insegnerai più di 100 correzioni. Adesso io su questa cosa sono in piena epifania, per me è stata una rivelazione incredibile, ma tornando indietro ad errori che ho provato a correggere e non sono riuscito a cambiare, Mi sembra proprio evidente, bisogna chiedere alle persone di capire da dove nasce quello sbaglio e insieme trovare quali sono stati i successi in altri contesti e perché in quel contesto non funziona più. Detto tutto questo, dopo 13 minuti che parlo, la somma di Turing è ancora lì, a pagina 434, sbagliata di 100 da 75 anni, e non sappiamo se quell'errore è di un uomo o di una macchina. Forse è giusto così, era esattamente la domanda su cui voleva farci riflettere nel gioco.
Si può insegnare a una macchina a sbagliare? Forse la domanda vera è un'altra. Degli sbagli abbiamo sempre saputo una cosa sola, come correggerli. Invece ci serve di capire come nascono, quanto resistono e perché a volte meritano rispetto. Questo non l'abbiamo mai scritto da nessuna parte e forse oggi è il momento per iniziarci a pensare.
Sappiamo tutto della risposta giusta, ma di come andarci vicino sbagliando quasi niente. Grazie per aver ascoltato, ti do la mia parola. Oggi la parola è stata sbagliare. Adesso tre cose che puoi fare. La prima, scrivi nei commenti l'errore più intelligente che hai visto fare o che hai fatto.
Mi interessa. La seconda, condividi questo episodio con qualcuno che si prepara per esempio a un colloquio di lavoro parlando con una chat. Qualcuno che ha bisogno di sapere bene con chi si sta allenando. La terza, la più importante, scrivimi ad andreachiocciolalaudadio. it e dimmi qual è la tua parola.
Io le leggo tutte e qualcuna, come questa, diventa un episodio. Ci sentiamo la prossima settimana con una nuova idea, una nuova storia e una nuova parola. Ciao! Rifocast, i podcast del riformista.
