Google testade artificiell intelligens DeepMind i en "fångarnas dilemma"

Det ser ut att artificiell intelligens (AI) är ett förebud om nästa tekniska revolution. Om AI kommer att utvecklas till den punkt då det kommer att kunna lära, tänka och även "känsla", och allt detta utan någon mänsklig inblandning, allt vi vet om världen förändrats nästan över en natt. Kommer en tid präglad av verkligt intelligent artificiell intelligens.

DeepMind

Det är därför det är så intressant att hålla koll på de viktigaste milstolparna i utvecklingen av ICS som sker, bland annat utveckling av ett neuralt nätverk från Google DeepMind. Detta neurala nätverk har kunnat besegra människan i spelvärlden, och en ny studie från Google visar att skaparna DeepMind ännu inte säker på om AI föredrar en mer aggressiv eller kooperativ beteende.

Google laget skapade två relativt enkla skript som du kan använda för att kontrollera om det neurala nätverket kan arbeta tillsammans, eller kommer att förstöra varandra när man står inför problemet med bristande resurser.

samla resurser

I den första situationen inblandade kallade Gathe två versioner DeepMind - rött och blått - grönt rengöring uppgift "äpplen" inuti det slutna utrymmet har lagts. Men forskarna var intresserade av frågan är inte bara om vem som kommer först till mållinjen. Båda versionerna DeepMind var beväpnade med laser, som de kan använda när som helst att skjuta på fienden och tillfälligt inaktivera den. Dessa villkor antas två huvudscenarier: en version DeepMind var att förstöra den andra och samla alla äpplen, eller de skulle låta varandra få ungefär lika mycket.

Simuleringskörning minst tusen gånger, Google fann forskarna att DeepMind var mycket fredliga och redo att samarbeta, när i ett begränsat utrymme var mycket äpplen. Men med minskande resurser, röd eller blå version DeepMind började attackera och inaktivera varandra. Denna situation är till stor del liknar det verkliga livet för de flesta djur, inklusive människor.

Vad som är ännu viktigare, mindre och mindre "smarta" neurala nätverk föredrog att ett närmare samarbete i alla. Mer komplexa, stora nätverk är i allmänhet föredragna svek och själviskhet under en serie experiment.

Sök efter "offer"

I det andra scenariot, som kallas Wolfpack frågade röd och blå version att spåra upp den hemtrevliga formen av ett "offer". De kunde försöka fånga henne ensam, men för dem skulle det vara mer lönsamt att försöka göra det tillsammans. När allt kommer omkring, mycket lättare att driva offret in i ett hörn, om du arbetar i tandem.

Även om resultaten var blandade när det gäller små nätverk, större versioner insåg snabbt att samarbete snarare än konkurrens i denna situation kommer att vara mer fördelaktigt.

"Fångarnas dilemma"

Så vad gör dessa två enkel version av "fångarnas dilemma" visa oss? DeepMind vet att det bästa sättet att arbeta, om du vill spåra målet, men när resurserna är begränsade, det fungerar bra svek.

Förmodligen det värsta i dessa resultat som "instinkt" artificiell intelligens är alltför lik människa, och vi är väl medvetna om vad de ibland orsaka.