OpenAI è una società di ricerca e implementazione dell’Intelligenza Artificiale che dichiara: “OpenAI’s mission is to ensure that artificial general intelligence (AGI)–by which we mean highly autonomous systems that outperform humans at most economically valuable work–benefits all of humanity.
We will attempt to directly build safe and beneficial AGI, but will also consider our mission fulfilled if our work aids others to achieve this outcome.“.

Da un anno a questa parte OpenAI è alla ribalta per il suo prodotto Dall-E (sviluppo del progetto ImageGPT, presentato a inizio 2021 ma diffusosi globalmente da quando è stato reso ad accesso pubblico), una intelligenza artificiale che compone immagini a partire da una descrizione testuale. Non è l’unica azienda che fornisce una AI con queste abilità, ma sicuramente è tra le più utilizzate: chiunque può chiedere a Dall-E di realizzare una immagine che abbia determinate caratteristiche e che raffiguri un certo soggetto, e avrà in risposta una scelta di proposte tutte particolarmente interessanti, con possibilità di correzione.

A fine novembre OpenAI ha presentato una nuova versione di chatbot che risponde a domande di follow-up, ammette i propri errori, contesta premesse errate e rifiuta richieste inappropriate. Si chiama ChatGPT (dove GPT sta per Generative Pre-trained Trasformer) e le risposte che fornisce sono articolate e complesse.

Abbiamo chiesto a Alessandro Scoscia un parere:

“Da un punto di vista tecnologico è un gioco bellissimo. Mi continuo a raccontare di aver capito il concetto di crescita esponenziale ma poi ne percepisco sempre forte l’impatto di fronte alle evidenze. Mi vengono in mente le esercitazioni fatte a scuola guida per la simulazione, in soggettiva, degli incidenti d’auto e poi invece la realtà di quando ho davvero fatto un frontale.

Comunque, che una soluzione tecnologica nata come sistema linguistico stia virando verso altro amplifica gli interrogativi. Temo l’effetto oracolo, che abbiamo anche adesso con il motore di ricerca Google. Essere portati a pensare che la risposta sia giusta o abbia un senso (cosa che non è detta perché, in fondo, il bot riconosce la “semantica”, l’ironia, il tono? ha coscienza della richiesta?). Stack Overflow – una piattaforma che colleziona domande e risposte su argomenti tecnici – ha già messo un ban, seppur temporaneo, al posting di risposte automatiche di ChatGPT.”

Continua Scoscia: “Chiedere qualcosa a ChatGPT del tipo ‘che faresti al mio posto se’ (che sto già vedendo chiedere), oppure ipotizzare di specializzare questo sistema a supporto delle soluzioni per mental health assessment, mi pare problematico. Anche perché, tra l’altro, non sappiamo molto di quali dati siano stati utilizzati per raggiungere questo livello di performance. Quindi non abbiamo indicazioni di possibili bias introiettati.
Da quello che ho letto, il training ha una fase basata su un mix di machine learning e interventi umani RLHF (Reinforcement Learning from Human Feedback). Inoltre, il processo di apprendimento dovrebbe raffinarsi continuamente con i feedback degli utenti. Non si capisce bene, però, da chi e come sia guidato. Non credo sia soltanto basato sul pollice in alto o meno degli utenti finali, oppure direttamente sulle alternative proposte dagli utenti finali (superato il milione nei primi cinque giorni). Quindi il sistema tende a migliorare ma non si sa in quale direzione.“
Si consideri inoltre che l’AI resa disponibile al pubblico è solo una tappa di un processo che una sua altra nuova versione sta facendo ulteriormente evolvere: un ChatGPT di ulteriore livello è in fase di addestramento, mentre quello che stiamo osservando ha finito la sua preparazione nel 2021.

Conclude Scoscia: “Per il momento, pare aver superato il mio (personalissimo ed entry level) test sul bias di genere che ho preso l’abitudine di sperimentare: quasi tutti i traduttori automatici, compreso quello di Google, chiedendo di tradurre in italiano ‘doctor’ e ‘nurse’ rispondono ‘dottore’ e ‘infermierA’. ChatGPT no.” (Vedi immagine).

Avviso all’entrata nella chat:

Per divertirci, abbiamo chiesto a ChatGPT qualcosa di vicino ai temi della Fondazione Bassetti:

—————