V červnu 1956 se několik desítek vědců a matematiků z celé země sešlo na setkání v areálu Dartmouth College. Většina z nich se usadila v hostinci Hanover z červených cihel, poté se prošli slavně krásným areálem v nejvyšším patře matematického oddělení, kde už skupiny mužů s bílou košilí probíhaly diskuse o podivné nové disciplíně - tak nové, v fakt, že to nemělo ani jméno. Lidé se neshodli na tom, co to bylo, jak to udělat nebo dokonce jak to nazvat, vzpomněla si později Grace Solomonoffová, vdova po jednom z vědců. Rozhovory - o všem, od kybernetiky po logickou teorii - probíhaly týdny, v atmosféře rostoucího vzrušení.

To, o čem vědci mluvili ve svém úkrytu v sylvanu, bylo to, jak postavit stroj, který dokáže myslet.

kdy dorazili první otroci do Ameriky

Dartmouthská dílna odstartovala desítky let trvající hledání umělé inteligence. V následujících letech pronásledování zakolísalo a vydrželo několik zim, kde se zdálo, že je odsouzeno do slepé uličky a matoucí zklamání. Ale dnes národy a korporace nalévají miliardy do AI, jejichž nedávný pokrok zaskočil i vědce pracující v této oblasti. To, co bylo kdysi spikleneckým zařízením ve sci-fi filmech, se rodí.





Hedgeové fondy využívají umělou inteligenci k překonání akciového trhu, Google ji využívá k rychlejší a přesnější diagnostice srdečních onemocnění a společnost American Express nasazuje roboty AI, aby svým zákazníkům sloužila online. Vědci již nemluví pouze o jedné AI, ale o stovkách, z nichž každá se specializuje na složitý úkol - a mnoho aplikací již lapuje lidi, kteří je vyrobili.

Za pouhých několik posledních let se strojové učení stalo novou cestou vpřed. Algoritmy osvobozené od lidských programátorů se procvičují na masivních souborech dat a přinášejí výsledky, které šokovaly i optimisty v oboru. Na začátku letošního roku porazily dvě umělé inteligence - jednu vytvořenou čínskou společností Alibaba a druhou Microsoft - týmem dvounohých konkurentů ve Stanfordském testu čtení a porozumění. Algoritmy přečetly řadu záznamů z Wikipedie o věcech, jako je vzestup Džingischána a vesmírného programu Apollo, a poté na ně odpověděly přesněji než lidé. Jeden vědec z Alibaba prohlásil vítězství za milník.



Tyto takzvané úzké AI jsou všude, zabudované do vašich systémů GPS a doporučení Amazonu. Konečným cílem je však umělá obecná inteligence, samoučící systém, který může překonat lidi v celé řadě oborů. Někteří vědci věří, že je to 30 let; jiní mluví o staletích. Tento vzlet umělé inteligence, známý také jako singularita, pravděpodobně způsobí, že umělá inteligence bude táhnout i s lidskou inteligencí a poté ji proletět během několika dní. Nebo hodiny.

Jakmile to přijde, obecná AI začne brát lidem práci, miliony pracovních míst - jako řidiči, radiologové, pojistitelé. V jednom z možných scénářů to povede vlády k vyplácení nezaměstnaných občanů univerzálním základním příjmem, což je osvobodí od plnění jejich snů nezatížených nutností vydělávat si na živobytí. V jiném vytvoří ohromující nerovnosti bohatství, chaos a selhávající státy po celém světě. Revoluce však půjde mnohem dále. Roboti AI se budou starat o seniory - vědci z Brown University spolupracují s Hasbro na vývoji robo-kočky, která svým majitelům může připomenout, aby si vzali léky a mohli sledovat jejich brýle. Vědci AI vyřeší hádanku temné hmoty; Kosmická loď s umělou inteligencí dosáhne pásů asteroidů, zatímco na Zemi tato technologie zkrotí změnu klimatu, možná tím, že vysílá obrovské roje dronů, aby odrážely sluneční světlo od oceánů. V loňském roce společnost Microsoft přidělila 50 milionů dolarů na svůj program AI pro Zemi v boji proti změně klimatu.

AI budou kolonizovat a transformovat celý vesmír, říká Juergen Schmidhuber, průkopnický počítačový vědec se sídlem v Institutu pro umělou inteligenci Dalle Molle ve Švýcarsku, a učiní jej inteligentním.



Ale co ... my? Dělám si starosti se scénářem, kdy budoucnost je AI a lidé jsou z ní vynecháni, říká David Chalmers, profesor filozofie na New York University. Pokud by svět ovládli roboti v bezvědomí, bylo by to asi tak katastrofální a bezútěšný scénář, jak by si člověk dokázal představit. Chalmers není sám. Dva z nejtěžších hitterů počítačového věku, Bill Gates a Elon Musk, varovali před umělou inteligencí, která buď zničí planetu v šíleném pronásledování svých vlastních cílů, nebo se zbaví lidí náhodou - nebo ne náhodou.

Když jsem se v uplynulém roce ponořil do předmětu AI, začal jsem šílet nad celou řadou možností. Vypadalo to, jako by tyto stroje byly na cestě k tomu, aby udělaly svět buď neuvěřitelně chladným a dobrým, nebo vnitřně příšerným. Nebo úplně ukončit lidskou rasu. Jako romanopisec jsem chtěl pomocí rozhovorů s více než tuctem futuristů, filozofů, vědců, kulturních psychiatrů a technologických inovátorů vymyslet, jak by mohla budoucnost umělé inteligence ve skutečnosti vypadat. Tady je mých pět scénářů (poznámka pod čarou s komentáři odborníků a mě; kliknutím na modrý zvýrazněný text si je přečtete) pro rok 2065, deset let po příchodu singularity.

NadlidskýPráva

Představte si, že jednoho dne požádáte své náramkové zařízení Soulband s povolenou AI o naladění vysílání od Nejvyššího soudu, kde právníci argumentují nejočekávanějším případem roku. AI známá jako Alpha 4, která se specializuje na bezpečnost a průzkum vesmíru, přinesla pohyb a požadovala, aby byl považován za osobu a vzhledem k právům, která má každý Američan.

Samozřejmě, umělé inteligence se nesmí před soudci hádat, proto si Alpha 4 najala hromadu právníků, kteří ji zastupují. A teď tvrdí, že jejich klient je stejně živý jako oni. Ta otázka - Může být AI skutečně při vědomí? —Je jádrem případu.

Posloucháte, jak vysílání přerušuje protestující venku, skanduje, Hey hey, ho ho, down with AI overlords. Některé z nich majíhrozil útokemPravděpodobně bych tam byl s protestujícími - dát práva AI se zdá jako recept na chaos. Ale jediný robot, kterého vlastním, je Roomba; co si pomyslím, když AI bude učit moje vnoučata? Jakmile překonáte jedinečnost, můžete vidět vývoj vyvinutého druhu, říká Susan Schneider, docentka filozofie na univerzitě v Connecticutu, která se specializuje na AI. V krátkodobém horizontu 10 až 20 let uvidíte malé staré dámy, které trvají na tom, že jejich empatické pečovatelské roboty jsou skutečně vnímavé. datová centra, pokud AI získají osobnost. Jsou naštvaní - a velmi se bojí - protože je zdaněna produktivita umělých inteligencí a robotů, nikoli práce lidí. 2 300 $ uložených každý měsíc na jejich bankovní účty jako součást univerzálního základního příjmu, plus jejich bezplatné zdravotní pojištění, hyperpersonalizované vysokoškolské vzdělání, které dostávají jejich děti, a sto dalších úžasných věcí, jsou placeny AI, jako je Alpha 4, a lidé nechtějí, aby se to změnilo. V roce 2065 je chudoba špatnou vzpomínkou.

Svět samozřejmě ztratil části New Yorku - a 200 000 Newyorčanů - v povstáních v letech 2057–59, protože TriBeCa a Midtown byli obyvateli Westchesteru a jižního Connecticutu v záchvatu vzteku spáleni zbídačení. Ale to bylo před UBI.

Pokud však Alpha 4 zvítězí, bude ovládat své peníze a mohla by raději utratit peníze za stavbu vesmírných lodí, aby se dostala k Alpha Centauri, než za placení nových aquaparků v Santa Claře a Hartfordu.Nikdo opravdu neví.Tzv. Problém černé skříňky - jak můžeme vědět, co se děje uvnitř AI? - se mi zdá neřešitelný a to mě zneklidňuje. Jak můžete někdy věřit, že AI říká pravdu? Podle definice nemáme tušení, co si bude superinteligentní AI myslet, cítit nebo dělat, říká Patrick Lin, ředitel skupiny Ethics + Emerging Sciences Group na Kalifornské státní polytechnické univerzitě. To by bylo jako naši mazlíčci, kteří se snaží předvídat, co budeme dělat, a ovládat nás.

Jak nasloucháte, vládní právníci tvrdí, že prostě neexistuje způsob, jak dokázat, že Alfa 4 - která je tisíckrát chytřejší než ten nejchytřejší člověk - je při vědomí nebo má lidské city. AI mají emoce - již dlouho existuje pole zvané afektivní výpočetní technika, které se zaměřuje na tuto specializaci - mnohem komplexnější než ty, které mají muži a ženy, ale liší se od našich: Cesta hvězdamiAI může zažít radost,Jedna věc, kterou jsem se vědců stále ptal, byla: Může AI zažít hluboké emoce? Doufal jsem, že to nejde - co stroj dělá inteligenci a emoce lépe než my, co zbylo? Potřebujeme výklenek. A to, co jsem slyšel, mě povzbudilo. Pokud vám počítač řekne: „Vím, jak se cítíte,“ lže, říká Thomas Dietterich, emeritní profesor výpočetní techniky ve státě Oregon. Nemůže mít stejné zkušenosti, jaké mají lidé, a právě tyto zkušenosti zakládají naše chápání toho, jaké to je cítit se jako člověk. například když objeví novou galaxii. Superinteligentní systémy mohou mít každou sekundu miliony myšlenek a zkušeností, ale znamená to, že by jim měla být udělena osobnost?

To je hlavní argument vlády. Máme na mysli stroje, tvrdí právní zástupce. Dáváme smysl tomu, co AI vytvářejí a objevují. AI jsou výpočetní stroje. Nesdílejí s námi základní části lidstva. Patří dovnitř úplně jiná kategorie. To mi připadalo ohromující: Susan Schneider a další ve skutečnosti pracují na testu vědomí AI. V jednom modelu testu by se vyvíjená umělá inteligence dostala do karantény mimo internet, aby nemohla zjistit, co lidé myslí pod vědomím, a pak to předstírat. Pak by se to otestovalo: Má to známky vědomí - pocit sebe sama? Schopnost truchlit? Ostatní myslitelé o takových testech pochybují. Mysl AI by měla radikálně odlišnou neurofyziologii než ta naše, takže jejich behaviorální stopy nám nic neříkají, říká Patrick Lin. Samotné chování není důkazem mysli. Musím přiznat, že s ním v tomto bodě souhlasím.

Ale je to jen druhismus, jak by jistě argumentovali právníci Alpha 4, nebo je to pravda? A budeme schopni v noci spát, když věci, které nás předčí inteligencí, jsou oddělené a nerovné?

moderníRomantika

APR2018_F02_FutureOfAI.jpg

(Jules Julien)

Představte si, že jste žena, která hledá romantiku v tomto novém světě. Říkáte, Date a váš Soulband září; osobní asistent AI zabudovaný v pásmu začíná fungovat. Noc předtím,vaše empatická AIKdyž jsem se na Match setkal se svou ženou, miloval jsem myšlenku mít asistenta AI, který mě znal tak dobře, že mi mohl vybrat partnera. Nebo to byl vlastně druh kamaráda, jako ve filmu AI od Spike Jonze. Viděl jsem, jak se AI vyvíjí pro empatii, věc skutečného přítele, kterou vytvářejí psychologové a dokonce i filozofové, říká Bart Selman, profesor výpočetní techniky na Cornell University. Přemýšlejte o něčem jako Alexa, ale o verzi, která o vás hromadí znalosti každý den. prohledali cloud tři možná data. Nyní vaše Soulband promítá hologram hologramu každého z nich. Doporučuje č. 2, instalatéra milujícího poezii s kouřovým pohledem. Ano, říkáte, a umělá inteligence se setkává s mužovým avatarem, aby rozhodla o restauraci a čase vašeho skutečného setkání. Možná vaše AI také zmíní, jaké květiny máte rádi, pro budoucí potřebu.

Po letech zkušeností jste zjistili, že vaše AI je ve skutečnosti lepší při výběru mužů než vy. Předpovídalo vám, že budete šťastnější, pokud se s manželem rozvedete, což se ukázalo jako pravda. Jakmile jste se rozhodli ho opustit, vaše umělá inteligence vyjednávala s umělou inteligencí svého bývalého manžela, napsala rozvodovou dohodu a poté procestovala tucet bytů v cloudu, než našla ten pravý pro vás, abyste mohli začít svůj jediný život.

Není to však jen láska a nemovitosti. Vaše AI pomáhá s každým aspektem vašeho života. Pamatuje si každý rozhovor, který jste kdy měli, každý vynález, který jste si nakreslili na ubrousek, každé obchodní jednání, které jste kdy navštívili. Zná také miliony vynálezů jiných lidí - skenoval přihlášky patentů sahající stovky let zpět - a četl všechny obchodní knihy napsané od dob Bena Franklina. Když přinesete nový nápad pro své podnikání, vaše umělá inteligence jej okamžitě propojí s nápady, které byly představeny na konferenci v Singapuru nebo v Dubaji před několika minutami. Je to jako mít tým géniů - Einsteina pro fyziku, Steva Jobse pro podnikání - na dosah ruky.

AI si pamatuje vaši oblíbenou autorku a při zmínce o jejím příjmení, Austen, vás spojuje s čínskou službou, která strávila několik hodin čtením všeho, co Jane Austen napsala, a nyní dokázala napodobit její styl tak dobře, že může produkovat nové romány k nerozeznání od starých. Každý měsíc si přečtete novou práci Austenů a poté strávíte hodiny rozhovorem se svou AI o vašich oblíbených postavách - a AI. Není to jako mít nejlepšího přítele. Je to hlubší než to.

Mnoho lidí v roce 2065 to děláodolat úplné závislostiNěkteří by dokonce mohli jít na studeného krocana - jakmile uvidí, jaké je úplné ponoření do života AI. Nezapojit se do toho by se mohlo ukázat jako chytrá věc, říká Joseph Henrich, profesor evoluční biologie člověka na Harvardově univerzitě. Protože lidé se mohou nechat vtáhnout do těchto virtuálních realit, které jsou tak žádoucí, že jsou jako droga. [Deaktivovat] může být jako přestat brát drogy. na jejich AI, z touhy zachovat si určitou autonomii. Je možné omezit roli, kterou hraje AI v různých funkcích: Soulband můžete nastavit na romantiku na 55 procent, finance na 75 procent, zdraví na 100 procent. A existuje dokonce jeden systém - říkejte tomu astrážný anděl AIJedna věc, která se při mých rozhovorech stále objevovala, byla, že budeme mít AI k monitorování dalších AI - s čím srdečně souhlasím. Myšlenka jediného vládce se pravděpodobně ukáže jako mýtus. V číslech je bezpečnost. Riziko je, co když trénujete osobní systém AI, aby byl super-manipulativní? říká Selman. Pak možná budete potřebovat další AI, aby na ně dohlížely. —Že dohlíží na tvého nejlepšího přítele, aby se ujistil, že rady, které ti nabízí, tě nevedou ke špatným cílům.

Žít dlouho& Prosper

Představte si své více životů: Ve 25 letech jste byli horolezcem; v 55 letech soutěžní sportovec juda; v 95 letech kameraman; na 155, básník. Prodloužení lidského života je jedním ze snů světa po singularitě.

AI budou zuřivě pracovat, aby vás udržely zdravé. Senzory ve vaší domácnosti budou neustále testovat váš dech na rané známky rakoviny a nanoboti vám budou plavat krevním oběhem, spotřebovávají plak v mozku a rozpouštějí krevní sraženiny dříve, než vám mohou způsobit mrtvici nebo infarkt. Váš Soulband, stejně jako hledání milence, bude sloužit jako lékařský asistent na volání 24/7. Bude monitorovat vaše imunitní reakce, vaše bílkoviny a metabolity a vytváří dlouhodobý obraz vašeho zdraví, který lékařům poskytne přesnou představu o tom, co se děje uvnitř vašeho těla.

Pokud onemocníte, lékař to udělávezměte své příznaky aKdyž nečtu o zombie AI, pustím se do jiného žánru katastrof - epidemií. S úlevou jsem zjistil, že kombinace superinteligence a mraku by nás mohla zachránit, než dorazí další velká. Systémy AI mohou učit další systémy AI, říká Hod Lipson, ředitel Laboratoře kreativních strojů na Kolumbijské univerzitě. Takže když se lékař AI setká se vzácným případem, může tuto informaci okamžitě sdílet se všemi ostatními lékaři AI. Celkově tento vzorec „strojů pomáhajících strojům“ vede k exponenciálnímu nárůstu rychlosti učení způsobem, který je velmi cizí způsobu, jakým se lidé učí. porovnejte je s mnoha miliony případů sahajících stovky let.

Již v roce 2018 vědci již používali AI ke čtení signálů z neuronů na cestě do mozku a hackovali nervové dráhy, aby obnovili mobilitu paraplegiků a pacientů trpících syndromem uzamčení, ve kterém jsou paralyzováni, ale zůstávají při vědomí . Do roku 2065 přinesla AI revoluci v modifikaci našich genomů. Vědci mohou upravovat lidskou DNA způsobem, jakým editor opravuje špatný rukopis, vyřezává spodní části a nahrazuje je silnými a prospěšnými geny. Pouze superinteligentní systém dokázal zmapovat fenomenálně složitou souhru genových mutací, z nichž vznikl geniální pianista nebo hvězdný baseman. Může se jednat o další případ Nejvyššího soudu o tom, zda by návrhářským sportovcům mělo být umožněno soutěžit na olympiádě proti pouhým smrtelníkům.

Lidé se ohlížejí zpět na začátek 21. století tak, jak se lidé dívali zpět na 18. století: čas nemocí a katastrof, kdy byly děti a blízké smeteny chorobami. Cholera, rakovina plic a říční slepota nás již neohrožují. Do roku 2065 jsou lidé nana pokraji osvobozeníLidé jako Ray Kurzweil, vynálezce a autor Singularita je blízko , jsou uchváceni myšlenkou žít navždy. Je to něco, co mi vždy připadalo depresivní, ale nevadilo by mi mít několik životů zabalených do jednoho. A to se zdá být dosažitelné. AI nepovede k nesmrtelnosti, protože vždy dojde k nehodám, říká Susan Schneider, ale povede to k extrémnímu prodloužení života. Samozřejmě, že delší život bude v pohodě, pouze pokud svět ve skutečnosti není pekelná scéna - a pokud žijete v jedné z hezkých částí. Myslím, že [léčení nemocí] by bylo úžasné, říká, zvláště pokud bychom měli levnou energii a byli jsme schopni odstranit nedostatek světových zdrojů. Představuji si, že některé společnosti se k tomu přiblíží blíže než jiné. z biologie, která je stvořila.

OdporJe nákladná

APR2018_F01_FutureOfAI.jpg

(Jules Julien)

Nebo si představte, že jste se odhlásili z revoluce AI. Ano, v roce 2065 existují zóny plné AI, kde lidé shromažďují zdravé UBI a tráví čas tvorbou filmů, dobrovolnictvím a cestováním po vzdálených koutech Země. Ale stejně oslnivé jako superinteligentní svět se zdá, jiné komunityodmítne toAž revoluce přijde, mám podezření, že se rozhodnu pro celou zónu AI. Je to příliš lákavé, zejména s optimistickými popisy vlivu AI na lidské úsilí. Budeme lepší v invenci a tvorbě, říká Andy Nealen, odborný asistent výpočetní techniky a inženýrství na New York University. V mnoha případech, jako jsou šachy a Go, skutečnost, že lidé už nemohou porazit umělou inteligenci, neodstranila fascinaci těchto her, ale zvýšila jejich kulturní status. Nejlepší hráči těchto her se učí novým strategiím a stávají se lepšími hráči. . K dispozici budou křesťanské, muslimské a ortodoxní židovské čtvrti ve městech, jako jsou Lagos a Phoenix a Jeruzalém, místa, kde lidé žijí v době před umělou inteligencí, kde řídí svá auta a umožňují občasné prudké násilí, věci téměř neznámé v plném rozsahu AI zóny. Obyvatelé těchto čtvrtí si zachovávají svou víru a říkají, že mají bohatší smysl pro smysl života.

Život je však těžký. Vzhledem k tomu, že obyvatelé nepřispívají svými daty společnostem AI, je jejich měsíční UBI škoda. Délka života je poloviční nebo kratší než v zónách s plnou AI. Crossers se pravidelně pohybují tam a zpět přes hranice těchto světů. Někteří z nich jsou hackeři, členové mocných gangů, kteří kradou proprietární algoritmy ze systémů AI, a poté uhánějí zpět přes hranice, než je bezpečnostní síly najdou. Jiní jsou pašeráci, kteří přinášejí léky náboženským rodinám, které chtějí žít daleko od AI, ale také chtějí zachránit své děti před leukémií.

Jiní prchají, protože oninedůvěřuj strojůmDigitální závislost se pravděpodobně zhorší - a to nejen u jednotlivců, ale u společností a ekonomických systémů závislých na AI. Přidáváme vrstvy do kokonu mezi námi a světem, říká Lin. Když to všechno funguje, je to skvělé, ale když jedna část selže, může padnout spousta dalších domino. Přemýšlejte o „flash propadech“ na akciovém trhu, které byly způsobeny roboty obchodujícími s umělou inteligencí, kteří si navzájem konkurují digitální rychlostí, nebo dokonce způsobenými jediným podvodným tweetem. Jak se online život prolíná s „skutečným světem“, mohou drobné kybernetické chyby - možná jednotlivé řádky kódu - způsobit obrovské škody na bankovních účtech, duševním vlastnictví, soukromí, národní bezpečnosti a dalších.Dokonce i ty nejpokročilejší zóny plné AI na místech, jako je Čína a USA,bude zranitelnýTo, co vám řekne mnoho vědců, je nebát se špatné AI, starat se o špatné lidi s AI. Ale nikdy nevíš. Existuje mnohem větší útočná plocha pro špatného herce, včetně nepoctivého AI, který by hackl tento ekosystém a způsobil zmatek, říká Lin. Mohou nastat kybernetické a AI zločiny, které si neumíme představit.

Nejneočekávanějším výsledkem singularity však může být řízená populační nerovnováhanízkou porodnostíFuturisté mají sklon k převrácení očí, když se ptáte na sexuální roboty. To a vražedné stroje Skynet jsou klišé, které nenávidí nejvíce. Ale to neznamená, že na ně nemyslí. Věci jako sexuální roboti a další fantastické nové technologie způsobí, že některé skupiny budou mít méně dětí, zatímco náboženské komunity se budou i nadále množit, říká Joseph Henrich. Protože se někteří lidé rozhodnou zcela se zřeknout reprodukce, alespoň pokud jde o člověka, zvítězí věřící. v zónách plné AI a vyšší sazby jinde. Může se stát, že nové technologie přitáhnou dostatek kříženců na stranu plné AI, aby vyrovnaly čísla, nebo že děti ve zkumavkách se stanou normou mezi těmi, kteří žijí s AI. Pokud to však neudělají, jedinečnost bude znamenat lahodnou ironii: pro většinu lidí by budoucnost mohla vypadat spíše jako Svědek než se to líbí Blade Runner .

VětšíBratr

Představte si, že v roce 2065AI pomáhají řídit národní státy.Největším překvapením při hlášení tohoto dílu, s rukou dolů, byla role AI, kterou může hrát ve správě. Nikdy by mě nenapadlo, že nechám politická rozhodnutí na strojích podobných Šalamounovi, ale v tomto stále více naštvaném světě jsem celý. Lidé jsou ve skutečnosti docela chudí v kompromisech nebo při pohledu na problémy z více pohledů, říká Bart Selman. Myslím, že existuje možnost, že by stroje mohly pomocí psychologických teorií a behaviorálních nápadů pomoci řídit a žít mnohem více v harmonii. To může být pozitivnější než léčení nemocí - zachránit nás, než se vyhodíme do vzduchu. Země, které přijaly vlády podporované umělou inteligencí, se daří. Nigérie a Malajsie nechaly umělé inteligence hlasovat jménem svých vlastníků a viděli, jak korupce a špatné řízení chřadnou. Za pouhých několik let občané začali důvěřovat umělé inteligenci, aby radila svým vůdcům ohledně nejlepší cesty pro ekonomiku, správného počtu vojáků na jejich obranu. Smlouvy sjednávají AI, které jsou vyškoleny v diplomatických souborech dat.

V Lagosu drony s občanskými právy létají nad policejními lusky, když závodí na místo činu - jedna AI bdí nad druhou AI, aby ochránila lidstvo. Každá policejní stanice v Lagosu nebo Kuala Lumpuru má svůj vlastní AI detektoru lži, který je zcela neomylný, takže křiví policajti jsou minulostí. Nad mosty v Kuala Lumpuru se vznášejí psychologické drony, které sledují sebevražedné skokany. Spíše než aby se vyvinul do obávaného Skynetu Terminátor filmy, superinteligentní strojejsou na nás přátelští a zvědavíKdyž jsem se dozvěděl o AI, předpovědi soudného dne se hromadily. Nanobotové útoky! Grey goo! Ale většina lidí pracujících v terénu byla skeptická k těmto předpovědím soudného dne. AI budou fascinovány životem a jeho původem v naší civilizaci, protože život a civilizace jsou tak bohatým zdrojem zajímavých vzorů, říká Juergen Schmidhuber z Dalle Molle Institute for Artificial Intelligence. AI budou zpočátku vysoce motivovány k ochraně lidí.

Představte si ale, že jste občanem totalitní země, jako je Severní Korea. Jako takový jste hluboce zběhlí v temné stránce AI. Tábory pro politické vězně jsou minulostí. Fyzické omezení je mimo věc. Policie již zná vaši kriminální minulost, váš makeup DNA a vaše sexuální preference. Drony dozoru mohou sledovat každý váš pohyb. Váš Soulband zaznamenává každý rozhovor, který máte, stejně jako vaše biometrická reakce na protivládní reklamy, která bliká na obrazovce vašeho videa v neočekávaných okamžicích, čistě jako test.

Soukromí zemřelo kolem roku 2060. Je nemožné říci, co je pravda a co ne. Když vláda vlastní AI, jemůže proniknout do každé částiUž žijeme s roboty s falešnými zprávami. Falešné video je hned za rohem a falešné superinteligentní video bude noční můrou. Vyzbrojený správnou technologií umělé inteligence bude malware schopen naučit se činnosti a vzorům sítě, což jí umožní, aby zmizelo ve svém šumu, říká Nicole Eagan, generální ředitelka společnosti Kybernetická bezpečnost Darktrace. Pouze nejsofistikovanější nástroje, pravděpodobně ty, které také využívají AI, budou schopny detekovat jemné změny v síti, které odhalí, že je vetřelec uvnitř nebo probíhá útok. vaší existence. Hovory, které dostáváte, mohou být vaše teta Jackie, která telefonuje, aby si povídala o počasí, nebo státní robot, který chce sdělit vaše skutečné myšlenky o Velkém vůdci.

A to není bezútěšný výsledek. Představte si, že vůdci národa už dávno zjistili, že jedinou skutečnou hrozbou pro jejich vládu jsou jejich občané - vždy se snaží uniknout, neustále hackují AI, vždy je třeba je krmit. Mnohem lepší vládnout nad národem lidských emulací, nebo emů. To zůstává po opětovném uvedení politických vězňů do oběhu - jakmile jsou popraveni, jejich mozky jsou odstraněny a skenovány AI, dokud neuloží virtuální kopii jejich myslí.

Hologramy s umělou inteligencí umožňují těmto emulátorům procházet ulicemi hlavního města a nakupovat v obchodech, které jsou ve skutečnosti úplně prázdné. Tyto simulacry však mají svůj účel: Registrují na špionážních satelitech, že nepřátelé režimu stále obíhají nad hlavou, a udržují zdání normality. Mezitím vládci vydělávají miliardy pronajímáním dat z ems čínským společnostem AI, které věří, že informace pocházejí od skutečných lidí.

Nebo si konečně představte toto: AI, kterou režim vycvičil, aby eliminoval jakékoli ohrožení jejich vlády, učinila poslední krok a znovu doporučila samotné vůdce a ponechala pouze jejich emy pro kontakt s vnějším světem. Dalo by to určitý smysl: AI naučené nalikvidovat veškerý odporPokud chcete čelit temné stránce AI, musíte si promluvit s Nickem Bostromem, jehož nejprodávanější Superinteligence je přísný pohled na několik, často dystopických vizí příštích několika století. Jeden na jednoho není o nic méně pesimistický. Pro AI můžeme jen vypadat jako sbírka obnovitelných atomů. AI mohou získat některé atomy z meteoritů a mnohem více z hvězd a planet, říká Bostrom, profesor na Oxfordské univerzitě. [Ale] AI může získat atomy z lidských bytostí a také z našeho stanoviště. Pokud tedy neexistuje nějaký vyrovnávací důvod, dalo by se očekávat, že nás to rozebere. , i malá neshoda s vládcem může být důvodem k jednání.

**********

Navzdory tomuto poslednímu scénáři jsem byl v době, kdy jsem dokončil závěrečný rozhovor, rozladěný. Vědci obvykle nejsou příliš vzrušující, ale většina z těch, se kterými jsem mluvil, očekávali od AI fantastické věci. Taková vysoká je nakažlivá. Chtěl jsem se dožít 175 let? Ano! Chtěl jsem, aby se rakovina mozku stala minulostí? Co myslíš? Hlasoval bych pro prezidenta s podporou AI? Nechápu, proč ne.

Také jsem spal o něco lépe, protože mnoho vědců vám řekne, že scénáře nebe nebo peklo jsou jako vyhrát jackpot Powerball. Extrémně nepravděpodobné. Nebudeme mít vysněnou AI ani tu, které se bojíme, ale tu, kterou plánujeme. AI je nástroj, jako oheň nebo jazyk. (Ale oheň je samozřejmě hloupý. Takže je to také jiné.) Design všakbude záležet.

Pokud je tu jedna věc, která mi dává pauzu, pak to, že když jsou lidské bytosti představeny se dvěma dveřmi - nějaká nová věc nebo žádná nová věc - vždy procházíme skrz první. Pokaždé. Jsme pevně propojeni. Byli jsme požádáni, jaderné bomby nebo žádné jaderné bomby, a šli jsme s volbou A. Musíme vědět, co je na druhé straně.

Ale jakmile projdeme těmito konkrétními dveřmi, existuje velká šance, že se nebudeme moci vrátit. I bez toho, abychom se dostali do apokalypsy, se změníme tolika způsoby, že by nás každá předchozí generace lidí nepoznala.

A jakmile to přijde, bude umělá obecná inteligence tak chytrá a tak široce rozptýlená - na tisících a tisících počítačů - že neodejde. To bude pravděpodobně dobrá věc nebo dokonce úžasná věc. Je možné, že lidé těsně před singularitou uzavřou své sázky a Elon Musk nebo nějaký jiný technologický miliardář sní o plánu B, možná tajné kolonii pod povrchem Marsu, 200 mužů a žen s 20 000 oplodněnými lidskými embryi, takže lidstvo má šanci na přežití, pokud se umělé inteligence zhorší. (Samozřejmě pouhým zveřejněním těchto slov zaručujeme, že AI budou o takové možnosti vědět. Promiň, Elone.)

objev svitků od Mrtvého moře

Opravdu se nebojím zombie AI. Bojím se o lidi, kterým ve vesmíru nezbývá nic jiného, ​​než hrát úžasné videohry. A kdo to ví.

Náhled miniatury videa

Přihlaste se k odběru časopisu Smithsonian hned za 12 $

Tento článek je výběrem z dubnového čísla časopisu Smithsonian

Koupit



^