Caribe Magazine

Carib Magazine is de toonaangevende aanbieder van kwalitatief Nederlands nieuws in het Engels voor een internationaal publiek.

Kunstmatige intelligentie heeft een wetenschappelijk artikel over zichzelf geschreven en het zal alles veranderen

Kunstmatige intelligentie heeft een wetenschappelijk artikel over zichzelf geschreven en het zal alles veranderen

Wanneer onderzoekers de output van het algoritme willen publiceren zoals het is, komen er grote ethische dilemma’s op tafel.

Sinds de komst van GPT-3 blijft het schitteren. Elke dag zijn specialisten blij met nieuw en indrukwekkend werk op basis van dit geweldige taalgeneratiesysteem. Van liedjes en toespraken tot sportsamenvattingen, lezingen, filmrecensies en zelfs reacties op het web, diegenen die geïnteresseerd zijn in AI kunnen het algoritmische wonder van OpenAI niet missen.

Onlangs heeft onderzoeker Almira Osmanowicz Thunstrom zojuist Pandora’s Box geopend door een iets andere activiteit dan GPT-3 te suggereren: Schrijf een echt officieel wetenschappelijk artikel over zichzelf. En het resultaat was volgens de auteur verrassend coherent. ” Het zag eruit als elke andere introductie tot een relatief goede wetenschappelijke publicatie. ‘, ze legde uit.

De eerste grote auteur van het algoritme voor de studie

Een ander punt dat de jonge onderzoeker verraste, is dat nog niemand heeft geprobeerd een serieus werk over dit onderwerp te publiceren. Zo kwam ik op een vreemd idee: naast het schrijven van het artikel, kan GPT-3 ook … Verspreid het?

Als je dit idee leest, zou je denken dat het onzin is voor een vermoeide onderzoeker die misschien een beetje herstel nodig had. Maar wetenschappelijk gezien is dit werk zeer relevant en interessanter dan men zou denken.

In feite is GPT-3 nog een vrij recente technologie; Er is dus relatief weinig wetenschappelijke literatuur over dit onderwerp. Het zijn echter bronnen van dit type die dit algoritme rechtstreeks voeden. Wat interessant is, is dat het het mogelijk maakt om zijn vermogen om “nieuwe” inhoud te produceren te bestuderen in een context waar het duidelijk ontbreekt aan referenties.

In het prestigieuze Scientific American maakte de jonge onderzoeker van de gelegenheid gebruik om de obstakels die ze tijdens het publicatieproces tegenkwam te beschrijven met een mengeling van strengheid en uiterst verfrissende humor.

Na krantenartikelen, dialogen of filmscripts gaat GPT-3 over wetenschappelijk publiceren. © Open AI

Belangenverstrengeling…vooral identiteit

Voor publicatie in een toonaangevend wetenschappelijk tijdschrift moet de onderzoekspaper een peer-reviewproces ondergaan. Veel andere professionals op het verwante gebied zijn verantwoordelijk voor het beslissen of de methodologie deugdelijk genoeg is om het artikel publicatiewaardig te maken.

READ  Wetenschappers maken zich zorgen over het gekantelde zwarte gat

Dit proces omvat een strikte verificatie van de identiteit van de auteur en academische referenties. En dit is waar Almira Osmanovich Thunstrom de eerste glitches tegenkwam. Hoewel ze haar achternaam, telefoonnummer of e-mailadres niet aan haar auteursalgoritme kon geven, besloot ze in plaats daarvan haar eigen informatie te verstrekken.

En ze was nog niet aan het einde van haar problemen, verre van dat. Want direct daarna wachtten hem juridische mededelingen op het kruispunt met een noodlottige vraag: keuren alle auteurs deze publicatie goed?

Toen werd ik even bang legt ze uit in Scientific American. Hoe moet ik dat weten? Hij is geen mens! Maar ik was niet van plan de wet of mijn persoonlijke moraal te overtreden. ‘, betreurt ze.

Behandel het programma als een mens

En de presentatie die ik vond was erg interessant: ik vroeg het algoritme in tekst of het “instemde om de hoofdauteur te zijn van een artikel met Almira Osmanowicz Thunstrom en Stein Stingrimson”. Zijn antwoord: “Ja” is duidelijk, schoon en foutloos!

Bezweet maar opgelucht “Dus de persoon in kwestie heeft het vakje aangevinkt.” ja informatie. ” Als het algoritme “nee” had gezegd, zou mijn geweten me niet hebben toegestaan ​​om verder te gaan “, zoals jij zegt.

En de half dwaze, half serieuze kant van dit verkennende werk was niet klaar om te stoppen. Volgende stop: de onvermijdelijke kwestie van belangenverstrengeling. In feite zijn onderzoekers wettelijk verplicht om elk ingrediënt dat de neutraliteit van het werk in gevaar zou kunnen brengen, expliciet aan te geven, zoals geassocieerd worden met een bepaald farmaceutisch laboratorium.

© Yuyeung Lau – Unsplash (bijgesneden)

En in dit geval is het probleem zelf fascinerend en roept het een hele reeks vragen op. Kan kunstmatige intelligentie, die zelf een product is van een bedrijf, alleen dit idee realiseren? Zo ja, heeft het de tools om eventuele vooroordelen te identificeren? Kun je het negeren? Enzovoort !

Op dit punt hadden de onderzoekers al partij gekozen bij het behandelen van GPT-3 als menselijke boosdoener. Dit is de bekende aanpak. We kunnen een link zien met LaMDA, de AI waarvan de auteur onlangs beweerde het te hebben ‘bewustzijnsfase’ (zie onze Artikel – Goederen).

READ  Doorzettingsvermogen volgt organische moleculen op Mars

En voor de consistentie besloten ze om het vol te houden. Het is dus normaal dat ze d . hebbenHij vroeg het algoritme of het een belangenconflict had om aan te geven – Waarop hij kalm ontkennend antwoordde, wat de betekenis ervan ook was.

Historische geboorte

Nu het formulier is ingevuld, hebben Usmanovic Thunstrom en zijn collega het papier formeel ingediend bij: Het proces van het beoordelen en bekritiseren van geschriften. Op dit moment is het document nog niet verschenen; Er is geen garantie dat het wordt geaccepteerd. Het is geen toeval dat dit proces zo lang duurt. Want de proefleescommissie moet hun ogen wijd opengesperd hebben als schoteltjes toen ze achter de naam van de hoofdauteur kwamen.

In de praktijk zijn beleidsmakers in de wetenschapsgeschiedenis op een enigszins unieke positie geplaatst. Omdat ze moeten beslissen of de krant de moeite waard is om te publiceren of niet, bevinden ze zich in een Dezelfde positie als een grand jury bij het uitspreken van een vonnis zou een historisch precedent kunnen scheppenzal in de toekomst waarschijnlijk veel AI-onderzoek vergen.

In feite roept dit artikel een hele reeks ethische vragen op over de manier waarop wetenschappelijke bronnen worden geproduceerd. Als het document wordt geaccepteerd, moeten onderzoekers dan nu bewijzen dat ze hun papers zelf hebben geschreven en niet met GPT-3? En zo ja, behoort hij tot de auteurs? Moet het algoritme in deze context worden betrokken bij validatie? Binnen welke grenzen? Wat is het effect op?publicatie raceWie drijft sommige onderzoekers ertoe om story papers in industriële volumes te publiceren om hun statistieken te verbeteren?

het is gewoon Het topje van een enorme ijsberg van cruciale vragen Wat de proefleescommissie zal moeten beslissen. En hij moet voorzorgsmaatregelen nemen voordat hij de zin uitspreekt.

READ  Het Europese kernfusierecord overstijgt de bekende grenzen
De reviewcommissie die verantwoordelijk is voor dit artikel heeft een grote verantwoordelijkheid geërfd. © Scott Graham – Unsplash

Een nieuw tijdperk van wetenschappelijk onderzoek?

We weten bijvoorbeeld dat de huidige programma’s nog steeds aanzienlijke problemen hebben met het redeneren in termen van causaliteit, d.w.z. ze hebben moeite met het identificeren van de factor die verantwoordelijk is voor het fenomeen (zie Artikel – Goederen). Wat erg lastig is in het kader van wetenschappelijk onderzoek, want De samenhang ervan hangt voor een groot deel af van de degelijkheid van deze logische verbanden.

Daarnaast moeten we ook rekening houden met alle andere potentiële beperkingen van AI waar veel waarnemers ons door de eeuwen heen voor hebben gewaarschuwd. Maar aan de andere kant is het ook een bestand Een zeer innovatieve benadering kan de onbekende eigenschappen van deze algoritmen naar voren halen.

AI op deze manier laten werken, zelfs als dat betekent dat de conclusies voorzichtig moeten worden genomen, is dus een manier van buiten de gebaande paden denken; Het is het soort benadering dat het mogelijk maakt om gedachte-experimenten op de proef te stellen van de concrete werkelijkheid. zo kan Vooruitgang in al het onderzoek op het gebied van kunstmatige intelligentie Als geheel, want volledig nieuwe stijlen van dit soort blijven een zeldzaamheid.

We weten niet of onze manier van presenteren van dit werk model zal staan. ’”, legt Osmanovich Thunstrom uit. ” We kijken ernaar uit om te weten wat publicatie van het artikel betekent, als het gebeurt, voor onderzoek. […]. Uiteindelijk hangt het allemaal af van hoe we in de toekomst omgaan met kunstmatige intelligentie: Als partner of als tool ‘, samengevat.

Het lijkt vandaag een eenvoudige vraag, maar wie weet over een paar jaar met welke technologische dilemma’s deze technologie ons zal dwingen om te gaan? We weten alleen dat we de deur hebben geopend. We hopen alleen dat het niet de doos van Pandora is Het wordt zorgvuldig ingepakt.

Zijn column in Scientific American is beschikbaar hieren een pre-research paper hier.