AI-onderzoekers zeggen dat DeepMind’s zoektocht naar AI mogelijk niet succesvol is

David Silver, leider van de Reinforcement Learning Research Group bij DeepMind, heeft de ere-beroepsclassificatie van “9th Dan” voor AlphaGo gekregen.

Jung Yoon Ji | AFP | Getty Images

Computerwetenschappers vragen zich af of DeepMind en het alfabetEen Brits bedrijf dat algemeen bekend staat als een van ‘s werelds toonaangevende laboratoria voor kunstmatige intelligentie, zal ooit machines kunnen maken met het soort ‘algemene’ intelligentie dat we bij mensen en dieren zien.

In zijn streven naar kunstmatige algemene intelligentie, ook wel AI op menselijk niveau genoemd, richt DeepMind een groot deel van zijn inspanningen op een benadering die ‘reinforcement learning’ wordt genoemd.

Dit omvat het programmeren van een AI om bepaalde acties te ondernemen om de kansen op het verdienen van een beloning in een bepaalde situatie te maximaliseren. Met andere woorden, het algoritme “leert” een taak te voltooien door te zoeken naar deze voorgeprogrammeerde beloningen. Deze techniek is met succes gebruikt om AI-modellen te trainen in het spelen van (en uitblinken in) spellen zoals Go en schaken. Maar het blijft relatief dom of “smal”. De populaire AlphaGo AI-software van DeepMind kan bijvoorbeeld geen stickman tekenen of het verschil zien tussen een kat en een konijn, terwijl een zevenjarige dat wel kan.

Desondanks gelooft DeepMind, dat in 2014 door Google werd overgenomen voor ongeveer $ 600 miljoen, dat AI-systemen die worden aangedreven door versterkend leren theoretisch kunnen groeien en zoveel kunnen leren dat ze de theoretische barrière voor AI doorbreken zonder nieuwe technologische vooruitgang.

Onderzoekers van het bedrijf, dat is uitgegroeid tot ongeveer 1.000 mensen die eigendom zijn van Alphabet, voerden aan dat de een laken Ik presenteerde vorige maand aan het peer-reviewed Artificial Intelligence Journal dat “de beloning voldoende is” voor toegang tot algemene AI. was de krant Voor het eerst gerapporteerd door VentureBeat vorige week.

In de paper beweren de onderzoekers dat als je een algoritme blijft “beloont” elke keer dat je iets doet dat je wilt, wat de kern is van versterkend leren, het uiteindelijk tekenen van algemene intelligentie zal vertonen.

READ  Met macOS Monterey kunt u uw Mac wissen zonder het besturingssysteem opnieuw te hoeven installeren

De auteurs schrijven: “Beloning is voldoende om gedrag aan te sturen dat de bestudeerde vaardigheden in natuurlijke en kunstmatige intelligentie vertoont, inclusief kennis, leren, cognitie, sociale intelligentie, taal, generalisatie en imitatie.”

“We stellen voor dat klanten die door middel van vallen en opstaan ​​leren om de beloning te maximaliseren, gedrag kunnen leren dat de meeste, zo niet al deze mogelijkheden vertoont, en dus kunnen krachtige leermiddelen voor versterking een AGI-oplossing vormen.”

Niet iedereen is echter overtuigd.

Sam Weniger, een onderzoeker op het gebied van kunstmatige intelligentie in Berlijn, vertelde CNBC dat DeepMind’s “beloning is genoeg”-opvatting “een enigszins marginale filosofische positie is, misleidend gepresenteerd als een harde wetenschap”.

Hij zei dat het pad naar AGI complex is en dat de wetenschappelijke gemeenschap erkent dat er talloze uitdagingen en bekende onbekenden zijn die “terecht een gevoel van nederigheid bijbrengen” bij de meeste onderzoekers in het veld en hen ervan weerhouden om “grootvaders uitspraken” zoals “RL is het ultieme antwoord, wat je ook nodig hebt is de beloning.”

DeepMind vertelde CNBC dat hoewel versterkingsleren achter enkele van de meest bekende onderzoeksresultaten zit, AI-technologie slechts een fractie is van het totale onderzoek dat het doet. Het bedrijf zei dat het het belangrijk vindt om dingen op een meer fundamenteel niveau te begrijpen, en daarom streeft het naar andere gebieden, zoals ‘symbolische AI’ en ‘populatiegebaseerde training’.

“In de ietwat typische benadering van DeepMind kozen ze ervoor om gedurfde uitspraken te doen die koste wat kost de aandacht zouden trekken, in plaats van een meer subtiele benadering,” zei Weiniger. “Dit staat dichter bij politiek dan bij wetenschap.”

Stephen Meriti, een onafhankelijke onderzoeker in kunstmatige intelligentie, vertelde CNBC dat er een “verschil is tussen theorie en praktijk”. Hij merkte ook op dat “een stapel dynamiet waarschijnlijk genoeg zou zijn om er een naar de maan te brengen, maar het is niet echt praktisch.”

READ  Nintendo spoort Bayonetta 3-fans aan om 'verbonden te blijven'

Uiteindelijk is er in beide gevallen geen bewijs om te zeggen of versterkend leren ooit zal leiden tot kunstmatige algemene intelligentie.

“De waarheid is dat niemand het weet en het belangrijkste product van DeepMind is nog steeds public relations, niet technische of productinnovatie”, vertelde Rodolfo Rosini, een tech-investeerder en ondernemer gericht op kunstmatige intelligentie, aan CNBC.

Ondernemer William Tunstall-Pedoe, die de Siri-achtige Evi-app verkocht aan Amazone, vertelde CNBC dat zelfs als de onderzoekers gelijk hadden “het niet betekent dat we er snel zullen zijn, noch betekent het dat er geen betere, snellere manier is om daar te komen.”

DeepMind’s Reward is genoeg paper is co-auteur van Richard Sutton en David Silver, die in de jaren negentig DeepMind CEO Demis Hassabis ontmoetten aan de universiteit van Cambridge.

Het grootste probleem met de stelling van “beloning is voldoende” is niet dat het verkeerd is, maar dat het niet verkeerd kan zijn, en daarom niet bevredigt. De beroemde Karl Popper-standaard “Alle wetenschappelijke hypothesen zijn falsifieerbaar”, zei een senior AI-onderzoeker bij een groot Amerikaans technologiebedrijf, die vanwege het gevoelige karakter van de discussie anoniem wilde blijven.

“Omdat Silver et al. in het algemeen spreken en het beloningsidee niet voldoende is gedefinieerd, kun je altijd gevallen kiezen waarin aan de hypothese wordt voldaan, of het beloningsidee kan worden gewijzigd zodat het wordt bevredigd”, voegde de bron eraan toe.

“Als zodanig is het ongelukkige oordeel hier niet dat deze prominente leden van onze onderzoeksgemeenschap het op de een of andere manier fout hebben gedaan, maar eerder dat wat er is geschreven triviaal is. Wat wordt er uiteindelijk uit dit artikel geleerd? Bij gebrek aan praktische , bruikbare bevindingen Van de erkenning van de onvervreemdbare waarheid van deze hypothese, was dit document voldoende?”

READ  Merlin Robot - Dingen om bekend te worden

Wat is kunstmatige algemene intelligentie?

Hoewel AI vaak de heilige graal van de AI-gemeenschap wordt genoemd, is er geen consensus over wat AI eigenlijk is. Eén definitie is het vermogen van een intelligente werker om elke intellectuele taak die een persoon kan uitvoeren, te begrijpen of te leren.

Maar niet iedereen is het daar mee eens en sommigen vragen zich af of AGI ooit zal bestaan. Anderen zijn geschokt door de mogelijke effecten en of AI zijn eigen of krachtigere vormen van AI zal bouwen, de zogenaamde superintelligentie.

Ian Hogarth, een ondernemer die engelinvesteerder is geworden, vertelde CNBC dat hij hoopt dat versterkend leren niet genoeg zal zijn om toegang te krijgen tot kunstmatige algemene intelligentie. “Hoe meer huidige technologieën AI bereiken, hoe minder tijd we hebben om de veiligheidsinspanningen van AI voor te bereiden en hoe kleiner de kans dat het goed gaat met onze soort,” zei hij.

Weiniger stelt dat we vandaag de dag niet dichter bij AGI staan ​​dan enkele decennia geleden. “Een ding dat sinds de jaren vijftig en zestig fundamenteel is veranderd, is dat sciencefiction nu een levensvatbaar hulpmiddel is voor gigantische bedrijven om het publiek, journalisten en aandeelhouders te verwarren en te misleiden”, zei hij.

DeepMind voedt elk jaar honderden miljoenen dollars van Alphabet en concurreert met bedrijven als Facebook en OpenAI om de slimste mensen in het veld in dienst te nemen bij het ontwikkelen van kunstmatige algemene intelligentie. “Deze uitvinding kan de samenleving helpen antwoorden te vinden op enkele van ‘s werelds meest dringende en fundamentele wetenschappelijke uitdagingen”, schreef DeepMind op zijn website.

Laila Ibrahim, chief operating officer van DeepMind, zei maandag dat proberen “uit te vinden hoe de visie te operationaliseren” de grootste uitdaging was sinds ze in april 2018 bij het bedrijf kwam.

You May Also Like

About the Author: Egbert Brink

'Lezer. Woedend bescheiden reisliefhebber. Extreme voedselwetenschapper. Schrijver. Communicator.'

Geef een reactie

Het e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *