Google Foto-appen gör ett koloss alt och rasistiskt misstag

Sedan lanseringen har tjänsten Google Photos uppmärksammats av specialiserade medier och användare i lika delar. Och det verkar ha gett den definitiva lösningen till problemet med smartphones och fotografier för närvarande: ett moln med obegränsat utrymme och utan kostnad Naturligtvis med hänsyn till vissa begränsningar som för tillfället inte innebär någon visuell skillnad mellan komprimerade bilder och de som inte är för att inte övervinna dessa barriärer.Allt detta tillsammans med några mycket intressanta funktioner som automatiskt skapande av animationer eller collage, eller intelligent organisering av foton. Men det är just i detta sista inslag som tjänsten skruvat upp sig på sämsta sätt

Och fram tills nu var nästan allt beröm för tjänsten, tills en användare klagade på sociala nätverket Twitter för ett stort misstag : har taggat ett foto med två svarta personer (användaren själv och hans flickvän) i kategorin Gorillas , inuti djur En blisssom kan ha många rasistiska konnotationer och som har skapat några blåsor både på sociala nätverk och inom Google

Efter den unge mannens klagomål på Twitter, direkt omnämnande av Google för att be om förklaringar i detta avseende, tog en av de ansvariga ingenjörerna för tjänsten inte lång tid på sig att svara be om ursäkt och accepterade felet, försökte inte ingå diskussioner om hur eller varför i saken.

Enligt Google ångrar de denna händelse och arbetar redan med att förbättra märkningssystemet för Google Photos Hittills analyserar tjänsten bilderna som laddats upp till detta moln för att ta reda på vad som visas på bilderna. En ganska framgångsrik funktion hittills, som kan upptäcka skyskrapor, sjöar, skilja mellan djur, identifiera foton av mat, foton av landskap, och en mycket lång etcetera. Det är sant att den fortfarande har misslyckanden hur man ibland kan förväxla hundar med hästar, eller inte identifiera korrekt vissa element som verkar tydliga, överraskande i andra foton på grund av deras procentuella framgång.Men Jag hade aldrig blandat ihop människor med apor Och ännu mindre när frågan om ras och hudfärg är inblandad.

Tydligen behöver tjänsten fortfarande några förbättringar, så Google har tagit bort taggen Gorillas för att förhindra att detta problem uppstår igen. Dessutom hävdar de att de förbättrar sin algoritm så att parsning och taggning blir mer exakt Men dess system är smart och lär sig genom att analysera nya foton, så det kommer att bli bättre med tiden när fler användare använder det.

Det här är de vanliga problemen med att lämna en maskin ansvarig, utan resonemangskapaciteten hos en person. För tillfället verkar det som att problemet har blivit en ful anekdot, att åtgärda åtgärder omedelbart och försöker slappna av i tonen angående problemet med rasism.Naturligtvis är det inte det första problemet av den här typen som inträffar. Andra program och igenkänningsprogram har drabbats av liknande problem genom att inte korrekt känna igen hudfärgen hos användare , eller genom att felidentifiera ljuset och belysningen i ett fotografi.