L'AI non è brava "in generale". È brava qui, e pessima lì.
Dell'Acqua, Mollick, Lakhani e altri, 2023. L'esperimento con 758 consulenti che ha mostrato due cose insieme: l'AI fa volare la qualità — e fa sbagliare con più sicurezza, appena il compito esce dal suo territorio.
C'è una domanda che ritorna in ogni discussione sull'AI al lavoro: «ma è brava o no?». Questo studio risponde nel modo più utile possibile: dipende dal compito, e il confine non si vede a occhio. Gli autori lo chiamano jagged technological frontier, la frontiera tecnologica frastagliata.
1. L'esperimento
Un gruppo di ricercatori di Harvard, Wharton, MIT e Warwick ha lavorato con il Boston Consulting Group su 758 consulenti, circa il 7% dei consulenti "individual contributor" dell'azienda. Ognuno è stato assegnato a caso a una di tre condizioni: senza AI, con GPT-4, oppure con GPT-4 e una breve formazione sul prompting.
I compiti non erano esercizi da laboratorio: erano pensati per somigliare al lavoro vero di un consulente. Ed erano di due tipi, scelti apposta — alcuni dentro le capacità del modello, uno appena fuori.
2. Dentro la frontiera: tutto migliora
Su 18 compiti di tipo creativo e analitico — immaginare un prodotto nuovo per un mercato di nicchia, segmentarlo, scrivere il lancio, sintetizzare — chi usava l'AI ha completato in media il 12,2% di compiti in più, il 25,1% più velocemente, con una qualità superiore di oltre il 40% rispetto al gruppo di controllo.
Il dettaglio più interessante è chi ne ha beneficiato: i consulenti sotto la media sono migliorati del 43%, quelli sopra la media del 17%. L'AI ha fatto da livellatore: ha alzato soprattutto il pavimento, meno il soffitto. C'è anche un rovescio: le idee prodotte con l'AI erano migliori ma più simili tra loro. Più qualità media, meno varietà.
3. Appena fuori: l'AI sbaglia, e convince
Il compito "fuori frontiera" era un caso di business: capire, da note di interviste e un foglio di dati, su quale marchio un'azienda dovesse investire. La trappola era sottile: i numeri da soli suggerivano una risposta, ma un dettaglio nelle interviste la ribaltava. Un buon analista lo nota; il modello, all'epoca, no.
Risultato: senza AI circa l'84% dei consulenti arrivava alla soluzione corretta; con l'AI la percentuale scendeva al 60–70%. In media, 19 punti percentuali in meno. Non perché l'AI rifiutasse il compito, ma perché produceva una risposta plausibile, ben scritta, e sbagliata — e molti la accettavano.
4. Centauri e cyborg
Osservando come lavoravano i consulenti migliori, gli autori hanno individuato due stili:
- Centauri: dividono il lavoro in modo netto. Questo pezzo lo faccio io, quest'altro lo chiedo all'AI — come il centauro, metà uomo e metà cavallo, con un confine chiaro.
- Cyborg: intrecciano continuamente il proprio lavoro con quello del modello, frase per frase, correggendo e rilanciando.
Entrambi funzionano. Quello che non funziona è il terzo stile, non dichiarato: delegare tutto e fidarsi.
5. Cosa porto via
- "Brava" non è una proprietà dell'AI, è una proprietà del compito. La domanda giusta non è se usarla, ma dove sta la frontiera per il lavoro che sto facendo.
- La frontiera si muove, e in fretta: lo studio usava GPT-4 nel 2023. Il punto non è il numero esatto, è che il confine esiste sempre da qualche parte — e va ricercato ogni volta.
- Il vero rischio è la fiducia, non l'errore. Un errore che sembra corretto è più pericoloso di un errore evidente. Serve chi sa riconoscere i dettagli che il modello non vede.
Mi ha colpito perché l'ho visto da vicino nella mia tesi: in un caso reale l'AI è stata utile per cercare articoli di riferimento a partire dalle regole che avevo scritto, ma il calcolo è rimasto alle regole e la verifica alle persone. Senza saperlo, era un modo da centauri di stare dentro la frontiera.