Google stelt voor om te controleren wat zijn Bard-bot schrijft om de fouten te beperken

Wat te doen met echte fouten geschreven door AI zoals ChatGPT? Google probeert op dinsdag 19 september een vorm van antwoord te geven in de nieuwe versie van Bard, zijn conversatierobot die concurreert met het beroemde programma dat OpenAI eind 2O22 lanceerde. Het principe bestaat uit het lanceren van een parallelle zoekopdracht op de zoekmachine om te ‘controleren’ of de inhoud van het door de AI gegenereerde antwoord identiek lijkt te zijn – of niet – met webpagina’s over dezelfde onderwerpen.

“We weten dat grote modellen voor taalverwerking uitdagingen met zich meebrengen, vooral omdat ze in staat zijn valse informatie op een positieve toon te presenteren.”, Google geeft dit toe in zijn persbericht. Het bedrijf is zich terdege bewust van het probleem: internetgebruikers bespotten Bard omdat hij de eerste waarneming van een exoplaneet ten onrechte toeschreef aan de James Webb-telescoop, in een van de demo’s die bij de lancering werden gegeven.

Dit soort fouten, in de beroepspraktijk vaak ‘hallucinaties’ genoemd, komen eigenlijk veel voor. ChatGPT had, net als de afgeleide versie die Microsoft in zijn Bing-zoekmachine integreerde, vaak verkeerde data of feiten, verzon boektitels, enzovoort.

Groen of rood

“Het is belangrijk om meer vertrouwen te hebben in de informatie die door kunstmatige intelligentie wordt gegenereerd.”‘, schrijft Google. Sterker nog, dit gebrek aan feitelijke betrouwbaarheid vormt, als het geen problemen oplevert voor bepaalde toepassingen van creatief schrijven of fictie, wel een obstakel voor de adoptie van taalverwerkingsmodellen door bedrijven. Met de nieuwe versie van Bard je zal in staat zijn “Verifieer de gegeven antwoorden door te zoeken naar vergelijkbare of andere webinhoud.”“, legt Google uit.

Bard is sinds juli in Europa bereikbaar via een homepage die losstaat van de Google-pagina. De gebruiker kan, net als bij ChatGPT, schriftelijke instructies typen en een reactie krijgen, maar heeft vervolgens de mogelijkheid om op de knop “Google it” te drukken. De zoekmachine zal vervolgens een – onzichtbare – zoekopdracht uitvoeren op elke zin of paragraaf van het antwoord. Als de inhoud van de webpagina’s die als resultaat verschijnen de inhoud van de door Bard gemaakte clip lijkt te bevestigen, wordt deze groen onderstreept; Omgekeerd, als het onderzoek in strijd lijkt te zijn met de AI, verschijnt het uittreksel in het rood. Door op een paragraaf te klikken krijgt de internetgebruiker toegang tot een uittreksel van de gevonden pagina’s die overeenkomen met de beweringen van Bard.

Je hebt nog 42,97% van dit artikel te lezen. De rest is gereserveerd voor abonnees.