Se un algoritmo identifica gli africani come scimmie è razzista?

[Dr. Gori]

Google Photos scambia afroamericani per gorilla






Dopo aver lavorato al bug per 15 ore, il team di Google alla fine ha preferito eliminare del tutto la tag gorilla, per evitare che il problema possa ripetersi in futuro, promettendo intanto di continuare a studiare miglioramenti sul piano del riconoscimento delle facce delle persone di carnagione scura, e sull’utilizzo di tag che possono risultare offensive per particolari gruppi di persone.

Google Photos scambia afroamericani per gorilla - Wired





Google ‘fixed’ its racist algorithm by removing gorillas from its image-labeling tech


Nearly three years after the company was called out, it hasn’t gone beyond a quick workaround

Back in 2015, software engineer Jacky Alciné pointed out that the image recognition algorithms in Google Photos were classifying his black friends as “gorillas.” Google said it was “appalled” at the mistake, apologized to Alciné, and promised to fix the problem. But, as a new report from Wired shows, nearly three years on and Google hasn’t really fixed anything.The company has simply blocked its image recognition algorithms from identifying gorillas altogether — preferring, presumably, to limit the service rather than risk another miscategorization.

It may seem strange that Google, a company that’s generally seen as the forerunner in commercial AI, was not able to come up with a more complete solution to this error.

Google ‘fixed’ its racist algorithm by removing gorillas from its image-labeling tech - The Verge

[Marximiliano]

Un algoritmo identifica gli africani come gorilla.
Soluzione: i gorilla non esistono

[spq]

No.
Ma potrebbe esserlo il programmatore dell'algoritmo.

[Halfshadow]

Ah ah ah ah ah ah! Mi raccomando fidatevi sempre della tecnologia, quindi possiamo anche abolire il denaro contante perché quello elettronico sarà a prova di guasti ed errori. Non rischieremo mai di non poter fare la spesa, non preoccupatevi!

[Marximiliano]

No.
Ma potrebbe esserlo il programmatore dell'algoritmo.

Se il programma fosse IF negro THEN gorilla allora si, ma gli algoritmi di intelligenza artificiale sono molto più complessi e soprattutto utilizzano l'autoapprendimento, cioè nessuno innesta l'associazione automatica "negro=gorilla", ci arrivano da soli.
A confondere l'algoritmo potrebbero essere stati alcuni particolari anatomici come il naso piatto e largo di entrambi e i capelli corti e ricci del ragazzo che potrebbero esseere stati confusi col pelo corto della testa dei gorilla

[22gradi]

Si è razzista perché secondo i canoni che ci porteranno pian piano alla distruzione, siamo tutti uguali.

[Indra88]

secondo me sti negri devono iniziare a vivere con più serenetà il loro essere negri senza farlo pesare continuamente agli altri

[22gradi]

secondo me sti negri devono iniziare a vivere con più serenetà il loro essere negri senza farlo pesare continuamente agli altri

Non è colpa loro: arrivano qua, subito vengono riforniti di smartphone 4g e gli operatori "del benessere" li informano subito che nonostante siano clandestini sono strapieni di diritti e possono farsi curare gratis a spese nostre nelle migliori strutture ospedaliere d'Italia. Oltretutto vengono informati che "negro" è una parola brutta e che loro possono denunciare chi la proferisce senza alcun timore.

[Dr. Gori]

No.
Ma potrebbe esserlo il programmatore dell'algoritmo.

ma se anche un programmatore antirazzista (un team di programmatori) in 3 anni non riesce a progettare/correggere un algoritmo che distingue i gorilla dagli africani e preferisce togliere tale funzione, come è successo da google?

nearly three years on and Google hasn’t really fixed anything.The company has simply blocked its image recognition algorithms from identifying gorillas altogether — preferring, presumably, to limit the service rather than risk another miscategorization.

razzismo è riconoscere una indiscutibile somiglianza?

[Infinity]

È abbastanza normale: i gorilla hanno la faccia nera.
Riguardo all'anatomia siamo tutti scimmie: bisognerebbe accettarlo. È facile che un algoritmo si confonda.