“Oh no! Ho creato un mostro!”

[IlWehrwolf]

“Oh no! Ho creato un mostro!” Le parole del dottor Victor Frankenstein dopo aver osservato la sua creatura risuonano oggi nei pensieri – e negli incubi – di alcuni tra i massimi tecnologi e scienziati del mondo, con riferimento all’Intelligenza Artificiale ( I.A.). In particolare dal novembre scorso , da quando è disponibile in forma di applicazione uno strumento chiamato ChatGPT che ha lasciato tutti a bocca aperta per la sua capacità di creare contenuti di ogni genere, scrivere quasi di tutto con un alto grado di originalità, precisione, accuratezza e immediatezza. Il “chatbot” ( un software progettato per simulare conversazioni con esseri umani) , realizzato dalla californiana OpenAI –creato, tra gli altri, da Elon Musk–, non è il primo degli strumenti tecnologi disponibili per una vasta gamma di utilizzi. Altri bot di I.A. – generano immagini – come Midjourney o Dall-E- e possono ideare illustrazioni o fotomontaggi di grande effetto. E’ stato ChatGPT, tuttavia, a portare in primo piano l’intelligenza artificiale grazie alla sua accessibilità e al suo forte impatto.
Dall’inizio di dicembre scorrono fiumi d’inchiostro sui vantaggi e gli svantaggi di una tecnologia che avanza a velocità crescente, di cui ChatGPT rappresenta solo una piccola parte. Il suo stesso creatore, Sam Altman, Bill Gates- che vi ha investito forti somme – oltre a Musk e a un folto numero di scienziati, preoccupati per i possibili rischi dell’I.A., lanciano l’allarme e invitano a porre limiti alla nuova tecnologia. I pericoli più gravi sono che l’I.A. finisca per sfuggire al controllo umano – l’essere che l’ha pensata e realizzata – nonché la possibilità che possa cadere in mani “sbagliate”. Il rischio è che il controllo sfugga dalla mani dei dottori Stranamore postmoderni e la macchina finisca per dominare autonomamente quel che resta dell’uomo. Attraverso l’intelligenza artificiale nasce la concorrenza tra uomini e robot. Uno dei massimi scienziati contemporanei, il fisico, cosmologo e matematico Stephen Hawking, pensava che la creazione della “macchina pensante suona come campana a morto per l’umanità, poiché in futuro potrebbe sviluppare una propria volontà indipendente, in conflitto con la nostra”. Il rischio più grande non è la malvagità ma la competenza. “ Un’ I.A. super intelligente sarà estremamente brava a raggiungere i suoi obiettivi, e se questi non saranno allineati ai nostri, saremo nei guai”, concludeva.
L’incognita è che scienza e tecnica scatenino forze non conosciute e non controllabili nel rapporto con un’umanità ibridata con la macchina, alimentando la confusione tra naturale ed artificiale in assenza di bussole morali e valoriali. Occorre una mappa, una ricognizione su un’innovazione che può modificare in radice la condizione umana. Partiamo dalla definizione: l’I.A. è un ramo dell’informatica che lavora alla realizzazione di sistemi capaci di dotare le macchine di caratteristiche considerate “umane”, quali le percezioni visive, spazio-temporali e le capacità decisionali. Si tratta di apparati che entrano a pieno titolo nella definizione di intelligenza proposta dalla teoria di Gardner . Lo psicologo Howard Gardner individuò nove forme di intelligenza umana: l’intelligenza interpersonale, intrapersonale, linguistico-verbale, logico-matematica, musicale, naturalistica, visivo-spaziale, corporeo-cinestetica e filosofico-esistenziale. L’I.A. sta penetrando in tutti i territori dell’intelligenza umana descritti, con la tendenza a superare le nostre facoltà.
C’è la necessità di un serio dibattito sull’I.A., tanto più che i suoi pericoli inquietano gli stessi creatori. Altman ha affermato che l’intelligenza artificiale “ridefinirà la società come la conosciamo ora”, e che ciò lo spaventa. Questa tecnologia ha il potenziale per essere “la migliore invenzione che l’umanità abbia mai creato”, ma il percorso per migliorare le nostre vite potrebbe essere minato se i suoi “errori riconosciuti vengono sfruttati come arma di disinformazione, per compiere attacchi informatici o altre pratiche perverse. “ I modelli prodotti sinora funzionano attraverso il ragionamento deduttivo e potrebbero “ dichiarare con sicurezza cose inventate come se fossero fatti. “ Per Bill Gates “le IA super intelligenti potrebbero essere in grado di fissare i propri obiettivi. Una macchina potrebbe decidere che gli esseri umani sono una minaccia, concludere che i loro interessi sono diversi dai nostri o semplicemente smettere di preoccuparsi per noi?”. Una domanda che, posta da un insider di tale livello, suona come affermazione minacciosa. Lo stesso Hawking , nel 2014, quando la tecnologia dell’I.A era ancora in fase embrionale, avvertiva che “lo sviluppo di un’intelligenza artificiale completa potrebbe significare la fine della razza umana. Gli umani, esseri limitati dalla loro lenta evoluzione biologica, non potranno competere con le macchine e saranno superati”.
Di fronte a evidenze tanto preoccupanti, sorprende – ma non troppo, vista la progressiva restrizione degli spazi di discussione – che non vi sia un dibattito articolato e pubblico sull’Intelligenza Artificiale, lontano dallo specialismo degli addetti ai lavori. Intanto l’app ChatGPT è stata bloccata in Italia per i dubbi sulla raccolta e gestione dei dati degli utenti, un altro problema di libertà e privatezza legato alla capacità degli apparati artificiali di elaborare dati e metadati, con tutte le conseguenze – non solo predittive – che ne derivano. Se è legittimo congratularsi con l’intelligenza umana , in grado di elaborare una copia artificiale di se stessa con capacità assai superiori; se è possibile attendersi dall’I.A. la soluzione di alcuni problemi e limiti della nostra specie, è altrettanto indispensabile interrogarsi su rischi che preoccupano non solo l’osservatore comune, perplesso davanti all’enormità della sfida, ma gli stessi scienziati. Soprattutto, è urgente un giudizio morale che si traduca in norme vincolanti e controllabili. Tutti gli allarmi che si sono moltiplicati negli ultimi mesi hanno omesso di valutare la capacità dell’I.A. di formare, riformulare, modificare e di conseguenza, gestire in maniera manipolatoria il modo di pensare degli esseri umani . Può sembrare un’esagerazione e forse non è l’ intenzione dei creatori, ma è un dato di fatto che rapportarsi ai robot di intelligenza artificiale come a persone, con veri e propri dialoghi, porta ineluttabilmente a cambiare il pensiero umano prestabilendone i contenuti. Il rapporto è diseguale, immensamente superiore alla relazione umana tra maestro e allievo. La legge di Gabor avverte che se qualcosa è tecnicamente fattibile, non ci saranno leggi, scritte o etiche, che fermino ricerche e applicazioni pratiche. Di conseguenza, i possibili sviluppi dell’I.A, soprattutto la capacità di modificare pensieri, idee, forme e criteri del pensiero umano, tenderanno a ignorare le conseguenze. Se si modificano criteri e concetti, verranno manipolati i comportamenti umani con intensità crescente, a discrezione di chi “forma” l’ I.A. (ovvero le dà contenuto).
Tutto ciò è inquietante per la libertà umana quanto la possibilità che l’IA superi la nostra intelligenza in tutti i suoi aspetti. La capacità di plasmare pensieri e criteri, dunque comportamenti, è stata ormai raggiunta, con tutti i rischi del caso. Innanzitutto l’essere umano è lasciato alla mercé dell’apparato artificiale ( concretamente, di chi lo possiede e controlla) , con un’ulteriore pericolosa conseguenza, la perdita di abilità e capacità frutto del lungo lavoro della cultura e della conoscenza. Quando l’uomo iniziò ad usare le calcolatrici (prima meccaniche e poi digitali), abbandonò l’aritmetica mentale e le procedure matematiche apprese faticosamente. Chiunque sperimenta la perdita di abilità di calcolo, mentale e scritto. Moltissimi sono oggi a disagio con una semplice divisione con i decimali. Uguale sorte per la perdita di memoria: pensiamo al numero sempre minore di numeri telefonici, indirizzi, nozioni generali che ricordiamo a mente. Tanto è tutto nella memoria del PC e dello smartphone, a portata di clic. Molti studenti non ricordano più neppure come vengono eseguite certe operazioni ; viene insegnato loro esclusivamente a utilizzare l’apparato artificiale, abbandonando le tecniche, le conoscenze e le capacità – di memoria e di apprendimento – che rendono possibile capire ed eseguire calcoli, formulare pensieri ed ipotesi, ritenere , elaborare e trasformare in cultura abilità e conoscenze. E’ superfluo: ci pensa la macchina. Tutti utilizziamo il calcolatore digitale; computer, fogli Excel, mentre applicazioni più sofisticate risolvono istantaneamente qualsiasi equazione o calcolo complesso, senza altro intervento umano se non digitare i numeri che compongono il problema da risolvere.
L’I.A. va oltre: nelle nuove applicazioni basta rivolgersi verbalmente alla macchina – non è più necessario scrivere – per ottenere risposte in millesimi di secondo a ogni quesito su qualsiasi materia. Risposte accurate, sì, esaustive, forse, ma influenzate pesantemente da chi ha eseguito la programmazione iniziale. Che si parli di un libro o di un’idea, del cambiamento climatico o di eventi storici, il responso sarà accolto come oro colato, verità indiscussa dall’uomo non più abituato a ragionare, pensare, formulare giudizi. La risposta è necessariamente di parte: l’idea di chi ha programmato l’apparato o di chi lo controlla. Il futuro è ancora peggiore: le acquisizioni della cibernetica fanno sì che le macchine siano sempre più capaci di replicare se stesse . Così spiegava uno dei fondatori della nuova scienza, Norbert Wiener: “ i molti automi dell’epoca presente sono collegati al mondo esterno sia per quanto riguarda la ricezione di impressioni, che per l’esecuzione di azioni. Essi contengono organi sensoriali, effettori, e l’equivalente di un sistema nervoso per il trasferimento dell’informazione dagli uni agli altri. “ Che sarà di noi se davvero l’I.A. sarà in grado di prendere il controllo su se stessa e formulare giudizi sulla creatura imperfetta che rivolge domande e pretende soluzioni ? A ogni quesito essa avrà una risposta a cui crederemo come a un oracolo, rinunciando a pensare. Una conseguenza – al di là dei rischi di un’I.A. diventata autonoma dai suoi inventori – è la nascita di una doppia umanità. Da una parte la minoranza di chi possiede, controlla, programma l’apparato intelligente artificiale, dall’altro l’immensa maggioranza di semplici utenti privati di autonomia, giudizio, quindi libertà e – infine – umanità. Oltretutto, le macchine non citano fonti e se lo fanno ( è il caso di Perplexity AI, una chat box specializzata in ricerche) sono autoreferenziali, selezionate dal medesimo algoritmo.
Per non parlare di errori grossolani nelle Chat GPT, quando, ad esempio, segnano l’inesistenza di libri famosi pubblicati da autori riconosciuti; oppure riassumono il pensiero in modo che spesso è l’opposto del vero dire e pensare di un autore. Chi padroneggia temi su cui ha interpellato un robot ad I.A. riferisce di bugie e travisamenti, commenti negativi legati alle “linee guida” (sempre politicamente corrette) con cui è stato programmato.
Poiché la logica umana è la legge del minimo sforzo , non verrà più insegnata alla maggioranza, come sta accadendo con la matematica, storia, geografia, logica, grammatica, filosofia. Nessuno impartirà lezioni etiche. Quel giorno – se non accade già – approfittando delle nostre debolezze, limiti e ignoranza, senza neppure superare le facoltà del pensiero umano, l’ I.A. fornirà tutte le risposte a tutte le domande, così come Excel offre risultati numerici che non mettiamo in discussione. Il pensiero critico sarà stato soppresso e i comportamenti regolati, standardizzati, perfettamente previsti, dettando il modo di sentire, agire e pensare. La fine della libertà umana.
Indipendentemente dallo scenario peggiore – la macchina che controlla e replica se stessa senza l’intervento del suo inventore umano, rimuovendo il concetto stesso di libertà umana – già oggi l’I.A. è nelle mani di una minoranza di tecnici, scienziati e iperpadroni. Sono loro a programmare domande e risposte. Il resto degli umani è – e sempre più sarà – alla loro mercé, in attesa di scoprire se la macchina si stancherà di utenti tanto inferiori. Manipolazione, controllo, pensiero unico predefinito dalla macchina. perdita di libertà. Fobie o realtà? Ne vale la pena? Almeno, parliamone.

[adry571]

l'I:A: fa paura al suo creatoreGeoffrey Hinton, che oggi ha 75 anni, è considerato il “padrino dell’Intelligenza artificiale”.
Ho cambiato opinione - ha detto Hinton, 75 anni, in un'intervista al MIT Technology Review - penso che questi strumenti saranno molto più intelligenti di noi in futuro".

: «L’IA è pericolosa». «Me ne sono andato per poter parlare dei suoi pericoli» la macchina che sfugge al controllo dell’uomo. ,https://www.leggo.it/italia/cronache...3-7377349.html
Ha il cervello di Watson, il super pc messo a punto da IBM sfruttando anche le ultime scoperte in ambito dell’intelligenza artificiale, e il savoir faire di un receptionist consumato

https://www.webitmag.it/hilton-prese...ne-ibm_108187/

[IlWehrwolf]

Lavoro, “posti a rischio in ufficio”. La minaccia dell'intelligenza artificiale

https://www.iltempo.it/attualita/202...turo-35745771/

[MrBojangles]

Chiedo (per capire) all'ADM.

Ma: il limite "pro die" di thread "postabili" è sparito dal regolamento o esiste ancora?
@occidentale, @Dario, etc.

[Sheldon Cooper]

@IlWehrwolf Metti il link dell'articolo se no dovremo cancellare la discussione. Per il momento ho spostato la discussione su Fondoscala da che con la Politica Nazionale c'entra ben poco...

[BlackSheep]

@IlWehrwolf Metti il link dell'articolo se no dovremo cancellare la discussione. Per il momento ho spostato la discussione su Fondoscala da che con la Politica Nazionale c'entra ben poco...

@Sheldon Cooper, riusciresti a spiegarmi con quale criterio tenete il 3D "cazzari" sul nazionale? tanuto in vita da 3 reietti che non fanno altro che spammare minkiate??

[Second chance]

@Sheldon, riusciresti a spiegarmi con quale criterio tenete il 3D "cazzari" sul nazionale? tanuto in vita da 3 reietti che non fanno altro che spammare minkiate??

Questa è una cosa che mi sono chiesto anch'io. Credo che sia un ragionamento orwelliano, dove alcuni sono più uguali degli altri.

[BlackSheep]

Questa è una cosa che mi sono chiesto anch'io. Credo che sia un ragionamento orwelliano, dove alcuni sono più uguali degli altri.

eh, non a caso uno dei reietti che lo tiene in vita, "modera" il forum con la stessa imparzialità con cui emilio fede critica berlusconi....

[IlWehrwolf]

@IlWehrwolf Metti il link dell'articolo se no dovremo cancellare la discussione. Per il momento ho spostato la discussione su Fondoscala da che con la Politica Nazionale c'entra ben poco...

E' sempre obbligatorio mettere il link?

[BlackSheep]

Questa è una cosa che mi sono chiesto anch'io. Credo che sia un ragionamento orwelliano, dove alcuni sono più uguali degli altri.

la cosa divertente sottolineare altri aspetti:

uno dei miei tanti ban (con giustificazioni campate a cazzo) era per eccesso di spam... il cane da riporto, non appena trova qualcuno che gli fa venire il mal di pancia, o lo mette in I.L, oppure spamma a cazzo, inserendo continuamente foto dal formato gigante... l'hai visto bannato??? flenzi non è da meno... flenzi è il blacksheep di sinistra... ma Dario è il suo migliore amico...