Gealarmeerd door enkele vreemde en zelfs gevaarlijke resultaten, past Google zijn zoekmachine aan

Google heeft stappen ondernomen om zijn nieuwe AI Overviews-zoekmachine te ontwikkelen, mogelijk gemaakt door generatieve kunstmatige intelligentie (AI), nadat mensen vreemde of potentieel gevaarlijke antwoorden hadden gemeld. De groep vertelde vrijdag aan AFP dat zij dit had gedaan “We hebben snel gehandeld wanneer dit gerechtvaardigd was op grond van onze inhoudsregelgeving.”.

Blogger Der Obasanjo liet met name zien dat AI Overviews op de vraag hoeveel Amerikaanse presidenten moslim waren, antwoordde dat Barack Obama dat ook was. “Sommigen beschouwen hem als de eerste moslimpresident.”. Verwijzend naar dit voorbeeld legde een woordvoerder van Google uit dat dit het resultaat is “Je hebt ons beleid geschonden en we hebben het verwijderd.”.

Ongebruikelijke en gevaarlijke antwoorden

Een andere internetgebruiker plaatste via zijn account genaamd PixelButts op X (voorheen Twitter) een screenshot van het antwoord op het verzoek. “Kaas plakt niet aan pizza”. AI Overviews stelt voor om lijm toe te voegen naast het mengen van de kaas met de saus “Niet giftig” Met kaas om het plakkeriger te maken. Onafhankelijke journalist Christy Haynes beweerde op X dat deze reactie was geïnspireerd door een opmerking die meer dan tien jaar geleden op het sociale medianetwerk Reddit werd geplaatst.

Het nieuwe hoofd van de satirische website The Onion heeft de relatie benadrukt tussen bepaalde reacties en humoristische inhoud die online op zijn platform wordt gepubliceerd. Onder de voorbeelden beweert AI Overview dat de CIA officieel heeft toegegeven zwarte markeringen te gebruiken. De zoekmachine maakt misbruik van een satirisch artikel uit The Onion, waarin wordt gesteld dat onleesbare alinea’s in documenten van bureaus eerder het resultaat zijn van een fout dan van de wens om bepaalde inhoud te verbergen.

Googlen “Deze voorbeelden worden gebruikt om verbeteringen aan ons systeem te ontwikkelen, waarvan een deel al is geïmplementeerd.”“, aldus de woordvoerder. Half mei introduceerde Google de functie AI Overzichten, die geschreven tekst presenteert als reactie op een zoekopdracht en niet langer alleen maar links naar sites bevat, zoals tot nu toe het geval was. De links zijn niet verdwenen. , maar worden onder de tekst geplaatst en zullen waarschijnlijk in de smaak vallen. Alleen al de inhoud intrigeert gebruikers.