Incontro 2024-02-04 "L'intelligenza è artificiale? Esseri umani e simulazioni robotiche a confronto" Vettorello Luca

“Man mano che costruiamo sistemi le cui capacità assomigliano sempre di più a quelle umane, diventa sempre più forte la tentazione di antropomorfizzare tali sistemi, anche se funzionano in modi fondamentalmente diversi da quelli umani. Gli esseri umani si sono evoluti per coesistere nel corso di molti milioni di anni e la cultura umana si è evoluta nel corso di migliaia di anni per facilitare questa coesistenza, che garantisce un certo grado di comprensione reciproca. Ma è un grave errore applicare irriflessivamente ai sistemi di intelligenza artificiale le stesse intuizioni che utilizziamo nei nostri rapporti reciproci, soprattutto quando tali sistemi sono così profondamente diversi dagli esseri umani nel loro funzionamento sottostante.
Un pericolo dell’antropomorfismo è che può indurre in errore sia gli utenti che gli sviluppatori ad aspettarsi che un sistema di intelligenza artificiale mostri prestazioni di livello umano in compiti in cui in realtà non può eguagliare gli umani, mentre mostra competenze meramente di livello umano in altri compiti in cui può effettivamente sovraperformare. umani. I sistemi di intelligenza artificiale che stiamo costruendo oggi hanno una notevole utilità e un enorme potenziale commerciale, il che ci impone una grande responsabilità. Per garantire che possiamo prendere decisioni informate sull’affidabilità e la sicurezza dei sistemi di intelligenza artificiale che utilizziamo, questo articolo consiglia di tenere in primo piano il modo in cui tali sistemi funzionano, evitando così di imputare loro capacità di cui mancano, sfruttando al meglio delle notevoli capacità che realmente possiedono. .............

La discussione precedente equivale a qualcosa di più di un pignolo filosofico? Sicuramente quando i ricercatori parlano di credenza, conoscenza, ragionamento e simili, il significato di questi termini è perfettamente chiaro. Negli articoli, i ricercatori utilizzano tali termini come una comoda abbreviazione per meccanismi computazionali definiti con precisione, come consentito dalla posizione intenzionale. Ciò va bene purché non vi sia la possibilità che qualcuno assegni a tali termini più peso di quanto possano legittimamente sopportare, se non vi è il pericolo che il loro utilizzo possa fuorviare qualcuno riguardo al carattere e alle capacità dei sistemi descritti.
Tuttavia, gli odierni LLM e le applicazioni che li utilizzano sono così potenti, così convincentemente intelligenti, che tale licenza non può più essere applicata in modo sicuro. Come professionisti dell'intelligenza artificiale, il modo in cui parliamo di LLM è importante, non solo quando scriviamo articoli scientifici, ma anche quando interagiamo con i responsabili politici o parliamo con i media. L'uso imprudente di parole caricate filosoficamente come "crede" e "pensa" è particolarmente problematico, perché tali termini offuscano il meccanismo e incoraggiano attivamente l'antropomorfismo.
Interagire con un agente conversazionale contemporaneo basato su LLM può creare un'avvincente illusione di essere in presenza di una creatura pensante come noi. Eppure, per la loro stessa natura, tali sistemi fondamentalmente non sono come noi. La "forma di vita" condivisa che è alla base della comprensione reciproca e della fiducia tra gli esseri umani è assente, e di conseguenza questi sistemi possono essere imperscrutabili, presentando un mosaico di meno che umani con capacità sovrumane, di straordinariamente simili agli umani con comportamenti particolarmente disumani. .
L'improvvisa presenza tra noi di entità esotiche, simili alla mente, potrebbe accelerare un cambiamento nel modo in cui usiamo termini psicologici familiari come "crede" e "pensa", o forse l'introduzione di nuove parole e nuovi modi di dire. Ma ci vuole tempo perché un nuovo linguaggio si stabilizzi e perché nuovi modi di parlare trovino il loro posto negli affari umani. Potrebbe essere necessario un lungo periodo di interazione e convivenza con questi nuovi tipi di artefatti prima di imparare come parlarne al meglio.
Nel frattempo, dovremmo cercare di resistere al richiamo della sirena dell’antropomorfismo.”

(Google Translate da “Talking about Large Language Models” by Murray Shanahan in “Communications of the ACM”, February 2024)

Ciò riguarda alcuni temi dell’incontro e coincide con il mio parere su Cosa fa ChatGPT ... e perché funziona?.

Invece, a proposito della prospettiva di vita artificiale, faccio notare che già Internet non si può spegnere come HAL 9000 e che gli algoritmi di seduzione delle reti sociali le rendono così affascinanti, che non riusciamo a distaccarcene, e cosa c’è di più vitale della persistenza e della seduzione?

Probabilmente una vera intelligenza e coscienza artificiale, come è stato per quella naturale, non potrà essere “progettata” intenzionalmente, ma potrà “capitare”, nel complesso dell’evoluzione tecnologica, con il rischio di accorgercene troppo tardi, nel bene e nel male, per il suo tratto “alieno”.

La tesi esposta da Luca Vettorello è stata chiara ed esauriente: c'è una distanza incommensurabile tra intelligenza artificiale e intelligenza umana, soltanto quella umana è connotata di coscienza e autocoscienza. L'AI può sopravanzare quella umana in infiniti campi, ma non sarà mai VIVA perché non ha vita autonoma. Sulla parte finale del suo intervento mi è sembrato eccessivamente preoccupato di affermare questo punto come per intendere che la "Creazione" è cosa divina e non tecnica, non compete all'uomo.

Questo punto l'avrei dato per scontato, creazionismo o evoluzionismo che sia, avrei voluto invece valutare quanto vasto e profondo potrà essere il contributo dell'AI nel sostituire il lavoro umano, a soddisfare bisogni e a crearne sempre di nuovi. Lo sviluppo scientifico e tecnico non andrà di pari passo alla nostra immaginazione, la sopravanzerà e quindi cosa comporterà tutto questo? Il lavoro liberato dalla necessità e dal bisogno consentirà di salvaguardare il bisogno di lavoro come autorealizzazione del proprio benessere?

Questo è il terreno della politica e non dell'etica.

Certo Giulio, è giusto chiedercelo, ma questo è il lato etico del problema.