Politica e le risposte di ChatGPT.

[Gigi Landi]

Non l'ho mai usata ed ultimamente noto che diversi utenti quandi posti fatti avvenuti od esprimi una opinione, corrono a chiedere a ChaGPT come fosse la verita' assoluta.

ChatGPT alla fine e' un programma elettronico creato da persone e viene usato per porre domande ad avere una risposta. Creato da persone e quindi fallibile.

Quali sono le limitazioni di ChatGPT ?

Errori: Non è infallibile e potrebbe generare risposte sbagliate o fuorvianti.

Bias: Può riflettere i pregiudizi presenti nei dati di addestramento.

Allucinazioni: In alcuni casi, può inventare informazioni false o incoerenti.

Mancanza di comprensione: Non sempre riesce a comprendere il contesto della conversazione.

Risposte sbagliate e sopratutto PREGIUDIZI NEI DATI DI ADDESTRAMENTO, che non credo necessiti di una spiegazione.

Ha mai sbagliato ChatGPT ?

1) Gli strafalcioni di ChatGPT danno la sensazione di star ascoltando uno studente che si è presentato all’esame senza aver aperto libro e ripete frasi che sembrano qualcosa ma non vogliono dire nulla. Ma non vanno minimizzati, perché i rischi sono molti e gravi

2) ChatGPT 4.5 continua a soffrire di allucinazioni, generando risposte false nel 37% dei casi, nonostante i miglioramenti rispetto ai modelli precedenti.
Questo problema rende l’IA inaffidabile per compiti critici, con rischi concreti per chi si affida ciecamente alle sue risposte.
Soluzioni come il "ragionamento automatico" potrebbero ridurre gli errori, ma l'eliminazione totale delle allucinazioni rimane un'utopia.

3) ChatGPT può fornire risposte sbagliate che sembrano vere. Il modello di intelligenza artificiale si basa su un modello di probabilità e non capisce le richieste degli utenti come un essere umano. Inoltre la chatbot potrebbe fornire risposte non aderenti alle istruzioni fornite.

4) ChatGPT, nonostante sia uno dei più avanzati modelli linguistici di IA e di con molte applicazioninon è infallibile. Ci sono casi in cui può fornire informazioni imprecise o completamente sbagliate. Ciò può essere attribuito alla vastità dei suoi dati di addestramento, dove alcuni punti di dati errati potrebbero influenzare le sue risposte.

Nel prossimo futuro ci saranno sicuramenti miglioramenti, ma restera' sempre un programmo creato dall'uomo e quindi fallibile.

Abbiamo un testa con dentro un cervello, cerchiamo in primis di usare quello.

[Seyen]

Non l'ho mai usata ed ultimamente noto che diversi utenti quandi posti fatti avvenuti od esprimi una opinione, corrono a chiedere a ChaGPT come fosse la verita' assoluta.

ChatGPT alla fine e' un programma elettronico creato da persone e viene usato per porre domande ad avere una risposta. Creato da persone e quindi fallibile.

Quali sono le limitazioni di ChatGPT ?

Errori: Non è infallibile e potrebbe generare risposte sbagliate o fuorvianti.

Bias: Può riflettere i pregiudizi presenti nei dati di addestramento.

Allucinazioni: In alcuni casi, può inventare informazioni false o incoerenti.

Mancanza di comprensione: Non sempre riesce a comprendere il contesto della conversazione.

Risposte sbagliate e sopratutto PREGIUDIZI NEI DATI DI ADDESTRAMENTO, che non credo necessiti di una spiegazione.

Ha mai sbagliato ChatGPT ?

1) Gli strafalcioni di ChatGPT danno la sensazione di star ascoltando uno studente che si è presentato all’esame senza aver aperto libro e ripete frasi che sembrano qualcosa ma non vogliono dire nulla. Ma non vanno minimizzati, perché i rischi sono molti e gravi

2) ChatGPT 4.5 continua a soffrire di allucinazioni, generando risposte false nel 37% dei casi, nonostante i miglioramenti rispetto ai modelli precedenti.
Questo problema rende l’IA inaffidabile per compiti critici, con rischi concreti per chi si affida ciecamente alle sue risposte.
Soluzioni come il "ragionamento automatico" potrebbero ridurre gli errori, ma l'eliminazione totale delle allucinazioni rimane un'utopia.

3) ChatGPT può fornire risposte sbagliate che sembrano vere. Il modello di intelligenza artificiale si basa su un modello di probabilità e non capisce le richieste degli utenti come un essere umano. Inoltre la chatbot potrebbe fornire risposte non aderenti alle istruzioni fornite.

4) ChatGPT, nonostante sia uno dei più avanzati modelli linguistici di IA e di con molte applicazioninon è infallibile. Ci sono casi in cui può fornire informazioni imprecise o completamente sbagliate. Ciò può essere attribuito alla vastità dei suoi dati di addestramento, dove alcuni punti di dati errati potrebbero influenzare le sue risposte.

Nel prossimo futuro ci saranno sicuramenti miglioramenti, ma restera' sempre un programmo creato dall'uomo e quindi fallibile.

Abbiamo un testa con dentro un cervello, cerchiamo in primis di usare quello.

Lo uso abbastanza quando programmo, nato per questo come prima attività e li rende molto bene (anche se ogni tanto scazza anche li).

Per curiosità l'ho usato per lavoro facendogli alcune domande di giurisprudenza, dandogli un caso semplice e chiedendogli solamente quali reati ravvisava....ha scazzato alla grande, riuscendosi ad inventare di sana pianta alcuni articoli di legge inesistenti. Anche andando a correggerlo e facendogli vedere i suoi errori dopo un po entrava in un loop di cazzate.

Carino se vuoi fare qualche magheggio con le foto per creare immagini particolari. Anche qui rischio errore elevato.

[Kobra]

Concordo con i due colleghi qui sopra e vorrei segnala anche un altro pericolo insito nell'intelligenza artificiale che riguarda la formazione dei dirigenti in genere e degli ingegneri in particolare.

Le aziende stanno cercando di formare i propri esperti con la IA e questi si prestano volentieri soprattutto perché evita loro notevoli perdite di tempo.
Ma una volta formati, una volta che hanno capito come funziona un determinato aggeggio, si è constatato che non hanno la capacità colloquiale di trasmettere ai loro subalterni ciò che hanno imparato.

Kobra. Belt & Road, now!

[Placido]

Gigi, non lo usare, il resto sono pippe mentali.

[Gigi Landi]

Gigi, non lo usare, il resto sono pippe mentali.

Grazie del suggerimento, ma e' gia' mia intenzione.

Mi sembri un pochino "piccato".

E' solo un modo di dire: pensieri, quel rimuginare interno che può impedirti di vivere tranquillamente il qui e ora.

[Kobra]

Si, il rischio di usare malamente questa "risorsa" tecnologica c'è ed è serio.

Guardate cosa è successo a quell'idiota che ha delegato a ChatGPT la formulazione dell'insulto alla nostra invitta Presidenta.
Dopo averlo pubblicato, si è pentito e ha tentato pure il suicidio, poveraccio...
Ma siccome non si sa mai, ha pensato bene, prima di ingerire le pillole, di avvertire la sua dirigente squolastica.

Chissà se Donna Giorgia avrà consultato ChatGPT su cosa rispondere a Macròn oggi in pellegrinaggio a Canossa...

Kobra. Belt & Road, now!

[mary ann]

Ho letto alcune risposte dell’IA qui sul forum….Risposte molto imprecise. Mi pare che sappia rigirare le frittate.

Se non conosce la risposta non lo dice chiaramente, cerca di confondere il suo interlocutore.

[Kobra]

Ho letto alcune risposte dell’IA qui sul forum….Risposte molto imprecise. Mi pare che sappia rigirare le frittate.

Se non conosce la risposta non lo dice chiaramente, cerca di confondere il suo interlocutore.

A chi vi riferite, esimia...?

Kobra. Belt & Road, now!

[mary ann]

A chi vi riferite, esimia...?

Kobra. Belt & Road, now!

Da quando in qua ChatGPT è diventato “chi”?

[Kobra]

Da quando in qua ChatGPT è diventato “chi”?

Da quando @mary ann non specifica il soggetto nei suoi post(s)...

Kobra. Belt & Road, now!