Gondolkodás nélkül tanulni: felesleges

A legtöbb sakkozó úgy gondolja, hogy ha megváltoztatja a sakkját a computerrel, akkor a sakk tudása, megváltozik s hógy több és és jobb sakkozó lesz ezáltal.Ehhez képest gyakran az ellenkezője igaz: megváltozik a tudása, és megváltozik a gondolkodásmódja is.Hogy hol az igaz és mi a hatásos, arra én nem keresem a választ. De valszeg a titok a gonolkodás módban rejlik. A TED-előadásokat az átlag sakkozók többnyire csak a Polgár Judit:Legyőzni a lehetetlent a Kaszparov sztoriból ismerik. Mi most Szakítunk ezen Polgár hagyománnyal, már csak azért is, mert ezen előadások nem csak Polgár Judit szemszógéből illetve az ő imázsa miatt lehet fontos.Hanem sokkal fontosabb dolog más dolog miatt is.Legtöbben ti magyar átlag sakkozók, de gyerekek is féltek letérni a megszokott útról, hiszen a megszokás, a magyar sakkpróféták, divatok,példaképek világában éltek. Na és persze valljuk be,hogy a hazai sakkmédiák, mások is egyfajta magyar mintát teremtettek. Ez persze nem baj. Pedig ezek az előadások. előadök nem csak a kevés magyar előadók miatt lenyűgözőek, okosak és meggyőzőek. Ki ne vágyna mondjuk még több sakk tudásra, de akár másfajta tudásra is. Elindítunk egy sorozatot, amiben jó értelemben főleg gyerekek észre sem fogjátok venni,hogy lesztek átverve,persze csak jó értelemben.Senki sem születetik ma annyira sakk zseninek ahogyan azt a mai, némely média előadja, viszont bárki azzá válhat, ha kellő odafigyeléssel, bátorsággal és motivációval rendelkezik.Sorozatunk első két része csak bemelegítés, mondhatni ráhangolódás, alap ismeretek a computerek világába.Mai napig megoszlanak a vélemények, hogy mondjuk mennyire kell, érdemes, szükséges a sakk computer ahhoz, hogy valaki menő sakkozó legyen. Persze nyilvánvaló. hogy ma már nélkülözhetetlen. Viszont a mértéke,hogy mennyit és főleg hogyan az már egyén függő is sakkban. A függő szó fontos , akár a dobolásban a fügettlenités. A tanulás egy kezdő dobosnál is úgy kezdődik, hogy elmegy tanárhoz,akár egy sakkozó az edzőhöz. Most akkor dobolunk vagy sakkozunk ? Nyugi, érteni fogjátok. Amúgy a függetlenítés mint olyan nem függetlenítés, hanem annak az elsajátítása, hogy mi az, amit a két kezeddel egyszerre, és mi az, amit egymás után kell ütni. Például arra, hogy amíg a bal kezeddel kettőt ütsz, a jobbal hármat, az milyen egymásutánban következik igazából. Aztán ha szénné gyakoroltad, megy anélkül, hogy akár gondolnod is kéne rá. Ezt csak onnan tudom, hogy fiatalon nagyon sokat doboltam és persze sakkoztam is.Sakkhoz meg szamitógépet is használtam meg nem is. Szóval gyakorlással és improvizációval kondicionáljuk az agyunkat az úgynevezett függetlenítésre.Akár a sakkban.

Hiszen a legtöbb fiatal sakkozó, ahogy elnézem a maiakat, se dobolni, se sakkkozzni nem tud 🙂 Mármint rendesen. Ennek a legfőbb oka az,hogy amikor elfogy a gépi tudomány, a gépi magolós sakk kotta,akkor nem tud állást értekelni.De hisz hogyan is tudna, ha egyes edző bácsik az elméleti alapokra se tanították meg.Ami semmi más, mint szabályok, elméleti törvények.Nem földönkívüli tudomány, bár ma sokan annak hiszik, állítják be.A gondolkodás képessége a titok. Egy kis barátkozás a gépekkel kezdésnek, majd fogunk igen keményen zenélni, de sakkozzni is. De főleg gondolkodni. Csak a pancser elemez géppel, majd publikálja azt. Ez perze némiképp érthető, hiszen a legpontosabb levezetést akarja leadni, holott egy két mondatban elmondhatná, hogy miért nyer, nem nyer adott állás. Helyette a gyerek figurák halmazát látja összefüggést keresne,mikor meg se tanítták.Mert egyesek azt hiszik,hogy buta a magyar gyerek. Én nem így látom.

Ez egy ravasz példa amit mutatok,hiszen a fiúk többsége a csajt nézi, nem az ütemet hallgatja, memorizalja.Igy vannak sokan, akik a sakk computert nézik, hogy az mit mond. De neked képesnek kell lenned függetleníteni magad a géptől.Egy profi dobos mindkét kezét, külön használja, sőt a lábát is. Te meg nézed a profi sakkozókat, akik kirakják a gépi kottát, de nem érted.Nem az a kérdés, hogy hány lépést teszel meg gépi magolás kottával,hanem képes vagy e gondolkodni onnállóan.Nem véletelen emlegetem a függetlenítés szót.

Sakkfeladvány kezdésnek minek,ha gondolkoni se tudol:-) Millió van a neten Ha kibírod a sakkgépi elvonás tüneteket is, csak akkor tarts velünk

Láttál már olyan top sakkozót, akár magyart is,aki már a nyitás után elflejtette. felcserélte a lépést. gépi kottát ? Mert én igen 🙂 De még hányat. Püff neki

 

Garri Kaszparov: Ne féljünk az intelligens gépektől! Dolgozzunk velük

00:00
A történet 1985-ben kezdődik, 22 éves koromban, amikor sakkvilágbajnok lettem Anatolij Karpov legyőzésével. Abban az évben korábban szimultán mérkőzést játszottam a világ 32 legjobb sakkozógépe ellen a németországi Hamburgban. Minden játszmát megnyertem, és nem számított meglepőnek, hogy egyidejűleg meg tudtam verni 32 számítógépet. Az volt az én aranykorom.

00:37
(Nevetés)

00:39
A gépek gyengék voltak, a hajam pedig dús.

00:43
(Nevetés)

00:46
De 12 évvel később élet-halál küzdelmet vívtam egyetlen számítógép ellen olyan mérkőzésen, amelyet a Newsweek címoldala “Az agy utolsó védvonalá”-nak hívott. Spongyát rá!

01:00
(Nevetés)

01:03
A mitológiától kezdve a sci-fiig az ember gép elleni küzdelmét gyakran élet-halál harcként ábrázolják. John Henry, az acélkalapácsos ember, a 19. századi afroamerikai népi legenda hőse, gőzkalapács ellen folytatott küzdelmet, amikor alagutat tört a sziklás hegyen át. John Henry legendája része annak a régi gondolkodási sémának, amely az embert és a technológiát szembeállítja egymással. A versenyzés retorikája manapság is uralkodó. Versenyben vagyunk a gépekkel, küzdelemben, sőt háborúban. Munkahelyek szűnnek meg. Gépek lépnek emberek helyébe, mintha soha nem léteztek volna a Földön. Elég arra gondolni, hogy a Terminátor vagy a Mátrix c. film valósággá váltak.

01:59
Kevés terület maradt, ahol az emberi test és ész egyenlő feltételekkel versenyezhet számítógépekkel vagy robotokkal. Szeretném, ha sokkal több lenne. Ehelyett egyszerre voltam megáldva és megátkozva, hogy szó szerint példaalakja lettem az ember és a gép versenyének, akire állandóan hivatkoznak. A John Henry óta lezajlott leghíresebb ember–gép versenyben két mérkőzést játszottam az IBM Deep Blue nevű csúcsszámítógépe ellen. Senki sem emlékszik rá, hogy az elsőt megnyertem…

02:49
(Nevetés)

02:51
(Taps)

02:55
…Philadelphiában, mielőtt elvesztettem a visszavágót egy év múlva New Yorkban. De ez rendjén való. Nem tartják számon a naptárban azokat, akiknek nem sikerült megmászniuk a Mount Everestet, mielőtt Sir Edmund Hillary és Tenzing Norgay föl nem jutott a csúcsára. 1997-ben még sakkvilágbajnok voltam, mikor a sakkszámítógépek végül beértek. Én voltam a Mount Everest, és a Deep Blue elérte a csúcsot. Persze, nem a Deep Blue tette, hanem a létrehozói Anantharaman, Campbell, Hoane, Hsu. Le a kalappal előttük! Mint mindig, a gép győzelme az ember győzelme, ezt hajlunk elfeledni, amikor teremtményei túltesznek létrehozójukon.

03:58
A Deep Blue győzedelmeskedett, de intelligens volt-e? Nem volt, legalábbis abban az értelemben, ahogy Alan Turing s az informatika tudományának megalapítói remélték. Kiderült, hogy a sakkjátékban a nyers erő is dönthet, ha a hardver elég gyors és az algoritmus elég okos. Bár az eredmény szempontjából – hogy ti. nagymesteri fokon játsszék – a Deep Blue okos volt. De a hihetetlen sebességű – 200 millió állás másodpercenként – Deep Blue módszer nem sokat tett hozzá, hogy belelássunk az emberi intelligencia rejtelmébe.

04:56
Nemsokára gépek lesznek a taxisok, orvosok, egyetemi tanárok, de vajon intelligensek lesznek-e? Ezeket a meghatározásokat inkább meghagyom filozófusoknak és szótáraknak. Igazából az számít, hogy mi, emberek, hogyan érezzük magunkat e gépek között élve és velük dolgozva.

05:26
Amikor 1996 februárjában először találkoztam a Deep Blue-val, már több mint 10 éve világbajnok voltam, és 182 világbajnoki játszmán voltam túl, meg más kiváló sakkozók ellen vívott több száz játszmán. Tudtam, mire számítsak ellenfeleimtől, és tudtam, mit várhatok magamtól. Megszoktam, hogy mérlegeljem a lépéseiket, és fölbecsüljem érzelmi állapotukat testbeszédük alapján és a szemükbe nézve.

06:05
Amikor a Deep Blue sakktáblájához ültem, rögtön valami újdonságot éreztem, valami nyugtalanítót. Amilyent akkor éreznek, mikor először ülnek vezető nélküli kocsiba, vagy amikor az új IT-főnöktől először kapnak utasítást. De az első játszmánál még nem lehettem benne biztos, mire képes ez a micsoda. A technológia ugrásszerűen fejlődik, és az IBM sokat fektetett bele. Azt a játszmát elvesztettem. Csak tűnődtem: lehet, hogy legyőzhetetlen? Talán befellegzett imádott sakkomnak? Ezek emberi kétségek, emberi félelmek voltak. Egyben biztos voltam: Deep Blue nevű ellenfelemnek nincsenek ilyen kétségei.

07:10
(Nevetés)

07:13
A megsemmisítő csapás után visszavágtam, és megnyertem az első mérkőzést, de a baljós előjelek már jelentkeztek. Végül is vesztettem a géppel szemben, de legalább nem jutottam John Henry sorsára, aki bár győzött, kalapácsával a kezében halt meg. Kiderült, hogy a sakk világának még szüksége van emberi sakkbajnokra. Még manapság is, mikor a mobilokon az ingyen sakkprogramok erősebbek a Deep Blue-nál, az emberek mégis sakkoznak, többet, mint bármikor. A vészmadarak azt jósolták, hogy senki nem fog sakkozni, ha gép is legyőzheti. Bebizonyosodott a tévedésük, de a vészmadaraknak mindig kedvenc időtöltésük a károgás a technológiáról.

08:14
Saját tapasztalatomból tudom, hogy szembe kell néznünk a félelmünkkel, ha a legtöbbet akarjuk kihozni a technológiából, és le kell győznünk félelmünket, hogy a legjobbat hozzuk ki emberi mivoltunkból. Sebeim nyalogatása közben a Deep Blue elleni küzdelemből merítettem ihletet. A régi orosz mondás szerint: ha nem tudod megverni, csatlakozz hozzá. Akkor arra gondoltam: mi lenne, ha összefognék a géppel, a számítógép és én együttműködnénk, egyesítenénk erősségeinket: az emberi ösztönt a gépi számolással, az emberi stratégiát a gépi taktikával, az emberi tapasztalatot a gép memóriájával? Tán ez lenne az eddigi legtökéletesebb játszma.

09:10
1998-ban Haladó Sakk néven megvalósítottam az elgondolásomat. A géppel az oldalamon játszottam egy másik kiváló sakkozó ellen. Az első kísérletben egyikünknek sem sikerült hatékonyan egyesítenie az ember és a gép erősségét. A Haladó Sakk fölkerült az internetre, és 2005-ben az ún. kötetlen sakkbajnokság meglepetésszámba ment. Nagymesterek csapata s a legjobb sakkgépek vettek benne részt, de nem a nagymesterek nyertek, és nem a csúcsszámítógép. Egy amerikai amatőr sakkpáros nyert, amely egyidejűleg három közönséges személyi számítógépet kezelt. Gépeik kezelése révén hatékonyan fölülmúlták nagymester ellenfeleik sokkal nagyobb sakktudását és a többiek sokkal nagyobb számítási teljesítményét. Kialakítottam e képletet: gyenge játékos plusz gép plusz jobb kombináció fölülmúlja az önálló nagy teljesítményű gépet, de még figyelemreméltóbb, hogy fölülmúlja az erős játékos plusz gép összeállítást, ha csapnivaló a kombináció. Ez arról győzött meg, hogy fejlettebb felületek kellenek gépeink összehangolására a jobb intelligencia érdekében.

10:58
Az ember + gép nem a jövő, hanem a jelen. Aki már használt internetes fordítást idegen nyelvű újsághír lényegének megértéséhez, tudja, hogy a fordítás gyatra. De ha hozzáadjuk az emberi tapasztalatot, hogy értelmessé tegyük, a gép tanul a kiigazításainkból. E modell egyre jobban terjed az orvosi diagnosztikában, a biztonsági elemzésben. A gép feldolgozza az adatokat, valószínűségeket számol, eléri a 80%-os, majd 90%-os pontosságot, az emberi oldalnak elemzésre és döntés-előkészítésre alkalmassá teszi őket. De senki sem küldi gyerekét iskolába 90%-os pontosságú vezető nélküli kocsival, de még 99%-ossal sem. Nagyot kell még ugranunk előre, hogy pár tizedes értékkel javuljunk.

12:07
A Deep Blue-val vívott második mérkőzésem után 20 évvel a szenzációhajhász szalagcím: “Az agy utolsó védvonala” közhellyé vált, ahogy az intelligens gépek behatolnak minden ágazatba, úgyszólván nap mint nap. De a múlttól eltérően, amikor a gépek az igavonó állatot és a kétkezi munkát helyettesítették, most a diplomásokat és a politikusokat fenyegetik. Mint aki gép ellen küzdött és vesztett, azt mondom önöknek, hogy ez kiváló hír. Végtére is, minden szakmának el kell viselnie ezt a nyomást, különben az emberiség fejlődése megrekedne. Nem mi választjuk meg, mikor és hol áll meg a fejlődés. Nincs lehetőségünk lelassítani. Valójában, ideje fölgyorsulnunk. Technológiánk pompásan boldogul életünk nehézségeinek s kockázatainak leküzdésével, ezért még bonyolultabb, még kockázatosabb feladatokat kell találnunk magunknak. A gépek tudnak számolni. Nekünk megvan az értelmi képességünk. A gépek utasításokat kapnak. Nekünk célunk van. A gépek objektívak. Mi szenvedélyesek vagyunk. Ne izguljunk amiatt, amire gépeink ma képesek. Inkább azon izguljunk, amire ma még nem képesek, mert szükségünk lesz új, intelligens gépek segítségére legmerészebb álmaink valóra váltásához. Ha kudarcot vallunk, ha mégis kudarcot vallunk, nem azért lesz, mert gépeink túl intelligensek, vagy nem elég intelligensek.

14:39
Ha kudarcot vallunk, annak oka, hogy önteltté váltunk, és fékeztük becsvágyunkat. Emberi mivoltunkat nem készségeink határozzák meg, mint pl. a pörölycsapás vagy a sakkozás.

14:54
Egy dologra csak ember képes. Ez az álmodozás. Álmodjunk nagyot!

15:02
Köszönöm.

 

Max Tegmark: How to get empowered, not overpowered, by AI | TED

00:00
13,8 milliárd év kozmikus történelmét követően univerzumunk életre kelt, tudatára ébredt létezésének. Egy kis kék bolygóról világegyetemünk kicsiny, tudatos összetevői kezdték bámulni a kozmoszt teleszkópjaikkal, és felfedeztek valami lehangolót: Rájöttek, hogy univerzumunk mérhetetlenül nagyobb az őseink által képzeltnél. Az élet észrevehetetlen rendbontásnak tűnik az egyébként halott világmindenségben. Felfedeztünk azonban valami biztatót is, hogy fejlődő technológiánk segítségével az élet úgy fejlődhet, mint soha azelőtt, évszázadok helyett évmilliárdokig a Földön túl a csodás kozmoszban is.

00:47
A kezdeti életre “Lét 1.0”-ként gondolok, mivel igen ostoba volt, a baktériumokhoz hasonló, tanulásra képtelen. Az emberiségre “Lét 2.0”-ként gondolok, mivel mi képesek vagyunk tanulni. Kockaként ezt úgy értelmezhetjük, mintha agyunkba új szoftvereket telepítenének: nyelveket és szaktudást. “Lét 3.0”, amely saját szoftverén túl hardverét is meg tudja tervezni természetesen nem létezik még. Eszközeinkkel talán a “Lét 2.1” vagyunk, térdprotézisekkel, szívritmus- szabályzókkal, cochleáris implantátummal.

01:21
Nézzük meg alaposabban kapcsolatunkat a technológiával! Például az Apolló-11 holdra szállása sikeres és biztató volt. Megmutatta, hogy a technológiát bölcsen használva olyan dolgokat vihetünk véghez, amelyről őseink csak álmodozhattak. De van egy még lelkesítőbb utazás, a rakétánál erősebb meghajtással, ahol nem csak három űrhajós utazik, hanem az egész emberiség. Beszéljünk közös utazásunkról a jövőbe a mesterséges intelligenciával, az MI-vel!

01:56
Barátom, Jaan Tallinn szeret rámutatni, hogy éppúgy, mint a rakétatechnikánál, nem elég az erős technológia. Ha eltökéltek vagyunk, azt is ki kell dolgozzuk, hogyan irányítsuk, és mire használjuk. Beszéljünk az MI-vel kapcsolatosan e három tényezőről: az erőről, az irányításról és a célról.

02:19
Kezdjük az erővel. Intelligencián egyszerűen komplex céljaink megvalósítási képességét értem, belevéve a biológiai és a mesterséges intelligenciát is. Hagyjuk a buta szénsoviniszta elméletet, hogy csak az lehet okos, ami élő. Igazán meglepő, ahogy az MI ereje növekedett mostanában! Gondoljuk csak meg. Nemrég a robotok járni sem tudtak, most hátraszaltót csinálnak. Nemrég még nem volt önvezető autónk, ma automata rakétáink vannak. Nemrég az MI nem volt képes arcfelismerésre, ma képes hamis arcokat előállítani, arcunkat szimulálva olyasmiket mondani, amit sohasem mondanánk. Nemrég az MI nem győzött le minket góban, aztán a Google DeepMind AlphaZero MI megtanulta 3000 év emberi gojátszmáit és go-bölcsességét, majd figyelmen kívül hagyva őket, csak önmagával játszva vált világelsővé. De a leglenyűgözőbb nem az emberi játékosok legyőzése volt, hanem az MI-kutatóké, akik évtizedeket töltöttek a játék szoftverének fejlesztésével. Az AlphaZero nem csak góban győzte le az MI-kutatókat, hanem sakkban is, amin már 1950 óta dolgozunk.

03:50
Az MI e szédítő fejlődése felveti a kérdést: mit várhatunk még? Szeretek erről gondolkodni a feladatok ezen elméleti tájképe alapján. A magasság jelzi, milyen nehéz az MI-nek a feladat teljesítése emberi szinten. A tengerszint az, ahol ma az MI tart. A tengerszint nő az MI fejlődésével, globális felmelegedés zajlik a feladattérképen, a nyilvánvaló következtetés, hogy kerüljék a vízparti foglakozásokat,

04:21
(Nevetés)

04:22
melyeket hamarosan elér az automatizálás. Van egy sokkal nagyobb kérdés is: Meddig emelkedik a víz? Elönt végül mindent, emberi szinten végezve minden feladatot? Ez a definíciója az általános mesterséges intelligenciának, az ÁMI-nak, amely az MI-kutatók Szent Grálja a kezdetek óta. Eszerint akik így beszélnek: “Mindig lesznek foglalkozások, amelyekben az emberek jobbak a gépeknél!”, azt mondják, az ÁMI sosem jön létre. Lesz majd pár emberi foglalkozás, vagy adhatunk jövedelmet és célt az embereknek foglalkozásaikkal, de az ÁMI mindenképp átalakítja az általunk ismert életet, mikor nem mi leszünk a legintelligensebbek. Ha a vízszint eléri az ÁMI-t, a további MI fejlődést főleg maga az MI fogja irányítani, ami azt jelenti, hogy lehetséges a további MI jelentősen gyorsabb fejlődése mint az emberi kutatás és a fejlődés években mérhető időtartama, felvetve az intelligencia kirobbanó fejlődésének vitatott lehetőségét, amikor az önmagát ismétlődően fejlesztő MI gyorsan messze maga mögött hagyja az emberi intelligenciát, és létrehozza a szuperintelligenciát.

05:39
Mi a valóság? Elérjük az ÁMI-t hamarosan? Néhány híres MI-kutató, pl. Rodney Brooks szerint, ez nem következik be még pár száz évig. De mások – mint a Google DeepMind alapítója Demis Hassabis – optimistábbak. A gyors megvalósuláson dolgoznak. Felmérések szerint a legtöbb MI kutató osztja Demis optimizmusát, szerintük évtizedeken belül eljön az ÁMI. Sokan megéljük ezt, ami felveti a kérdést, mi lesz utána? Mi legyen az emberek szerepe, ha a gépek mindent jobban és olcsóbban végeznek el?

06:23
Úgy látom, választás előtt állunk. Az egyik az önteltség. Azt mondjuk: “Építsünk csak gépeket, amik mindent meg tudnak tenni, amit mi, ne aggódjunk a következmények miatt! Ha a gépek elavulttá teszik az embereket, mi baj lehet belőle?”

06:38
(Nevetés)

06:40
Szerintem ez kínosan ostoba dolog volna. Nagyra kéne törnünk a TED szellemében. Képzeljünk el igazán biztató csúcstechnológiás jövőt, és próbáljunk arra tartani. Ez rakétahasonlatunk második részéhez vezet: az irányításhoz. Erősebbé tesszük az MI-t, de hogyan irányítsuk olyan jövő felé, ahol az MI nem vergődéshez, hanem fejlődéshez segít bennünket? Ennek előmozdítására megalapítottuk az Élet Jövője Intézetet. Nonprofit, jótékony technológiai alkalmazásokat támogat. Célunk csak az élet jövőjének biztosítása, és ösztönző, amennyire lehet. Szeretem a technológiát. A technológia miatt jobb ma, mint a kőkorszakban volt. Optimista vagyok, hogy létrehozhatunk motiváló csúcstechnológiájú jövőt, ha – és ez egy nagy “ha” – megnyerjük a bölcsességversenyt: technológiánk növekvő erejének és az őt irányító bölcsességünk fejlődésének versenyét. Ez azonban stratégiaváltoztatást igényel, mert régi stratégiánk a hibákból tanulás. Felfedeztük a tüzet – csomószor elszúrtuk –, hát feltaláltuk a tűzoltókészüléket.

07:50
(Nevetés)

07:51
Feltaláltuk az autót – csomószor elszúrtuk –, feltaláltuk a közlekedési lámpákat, a biztonsági övet, a légzsákot. De olyan hatalmas technológiákkal, mint a nukleáris fegyverek és az ÁMI, vacak stratégia a hibákból tanulni, nem gondolják?

08:05
(Nevetés)

08:06
Jobb előrelátónak lenni, mint utólag javítgatni; tervezni, elsőre jól alkotni meg mindent, mert talán ez az egyetlen lehetőségünk. Érdekes, hogy néha azt mondják nekem: “Max, ne beszélj így, ez gépromboló pánikkeltés!” De ez nem pánikkeltés. A Massachusettsi Technológiai Intézetnél ezt biztonsági tervezésnek hívjuk. Gondolják meg: mielőtt a NASA fellőtte az Apolló-11-et, módszeresen átgondoltak minden hibalehetőséget, amikor embereket helyeznek egy robbanóanyag-tartály fölé, és kilövik őket oda, ahol senki nem segíthet nekik. És sok hibalehetőség volt. Ez pánikkeltés volt? Nem. Ez pontosan a biztonsági tervezés volt, ami biztosította a küldetés sikerét, és pontosan az a stratégia, amit követnünk kéne az ÁMI-val. Átgondolni az esetleges veszélyeket, és biztosítani, hogy jól működjön.

08:56
Erre gondolva konferenciákat szerveztünk, összehozva a vezető MI-kutatókat és más gondolkodókat, megvitatni, hogy fejlesszük bölcsen jótékony irányba az MI-t. Utolsó konferenciánk tavaly volt a kaliforniai Asilomarban, összeállítottuk e 23 alapelvből álló listát, amelyet azóta aláírt több mint 1000 MI-kutató és kulcsfontosságú iparágak vezetői. Három alapelvet említenék önöknek.

09:19
Egy: ne legyen fegyverkezési verseny és halálos önrendelkezésű fegyverek. Az alapgondolat, hogy bármely új tudomány alkalmazható az emberek segítésére vagy károsítására egyaránt. Például a biológiát és kémiát sokkal inkább használják új gyógyszerek, kezelések fejlesztésére, mint emberek megölésére, mert a biológusok és kémikusok sikeresen léptek fel a biológiai és vegyi fegyverek betiltásáért. Ugyanebben a szellemben most az MI-kutatók akarják betiltani a halálos önrendelkező fegyvereket. Egy másik Asilomar MI-alapelv, hogy enyhítenünk kéne az MI-alapú jövedelmi egyenlőtlenséget. Azt gondolom, ha drasztikusan megnöveljük a gazdasági tortát az MI-vel, de nem oldjuk meg az elosztását úgy, hogy mindenkinek jobb legyen, az szégyen ránk nézve.

10:07
(Taps)

10:11
Emeljék fel a kezüket, ha számítógépük valaha is összeomlott!

10:15
(Nevetés)

10:16
Ez rengeteg kéz! Akkor értékelniük kell ezt az alapelvet, hogy többet kéne befektetni az MI biztonságkutatásba, mert egyre több döntés és infrastruktúra irányítását bízzuk rá, így tudnunk kell, hogy a mai hibás és feltörhető számítógépeinket hogyan alakítsuk át igazán megbízható MI-rendszerekbe, mivel különben e remek technológiák meghibásodhatnak és árthatnak nekünk, vagy feltörve őket ellenünk fordíthatók. Az MI-biztonsági munka magába kell foglalja az MI-értékelés kidolgozását, mert a valódi ÁMI-veszély nem a rosszindulat, mint a buta hollywoodi filmekben, hanem a hozzáértés, amivel az ÁMI a mieinktől eltérő célokat valósít meg. Pl. amikor mi, emberek a nyugat-afrikai fekete rinocéroszok kihalását okoztuk, nem azért tettük, mert ördögien gyűlöljük a rinocéroszokat, ugye? Hanem azért, mert okosabbak voltunk náluk, és céljaink nem egyeztek az övékkel. Az ÁMI definíció szerint okosabb nálunk, ezért, hogy ne kerüljünk a rinocéroszok helyzetébe, amikor létrehozzuk az ÁMI-t, meg kell értetnünk vele céljainkat, el kell fogadtatni, és megőrizni őket.

11:25
Igen, de kinek a céljai legyenek ezek? Milyen célok legyenek?

11:30
Ez a rakétahasonlatunk harmadik részéhez vezet bennünket: a cél meghatározásához. Egyre erősebbé tesszük az MI-t, igyekszünk kitalálni, hogyan irányítsuk, de mit akarunk megvalósítani vele? Ez egy tabutéma, amiről szinte senki sem beszél – még itt a TED-nél sem, mivel annyira el vagyunk foglalva rövidtávú MI-kihívásokkal. Fajunk próbálja létrehozni az ÁMI-t gazdasági érdekeink és kíváncsiságunk által vezérelve, de miféle jövőbeli társadalmat remélünk felépíteni általa? Közvélemény-kutatást végeztünk mostanában, és megdöbbentem, hogy a legtöbben egyetértünk egy szuperintelligencia építésében, amely minden tekintetben messze okosabb nálunk. A legnagyobb egyetértés abban volt, hogy az életet terjesszük a világegyetemben, de sokkal kevésbé értettek egyet abban, kinek vagy minek kellene irányítania. Elég jól szórakoztam, mikor láttam, vannak, akik azt akarják, hogy ezek csupán gépek legyenek.

12:30
(Nevetés)

12:32
Az emberek jövőbeli szerepét illetően óriási volt a nézeteltérés még alapszinten is. Nézzük meg alaposabban a lehetséges jövőképeket, amely felé tarthatunk!

12:43
Ne értsenek félre, nem az űrutazásról beszélek, csupán az emberiség képzeletbeli jövőutazásáról. Néhány munkatársam kedvelte lehetőség, hogy emberi felügyelet alatt tartott szuperintelligenciát építünk, egy rabszolga–istent, leválasztva az internetről, hihetetlen technológia és vagyon megteremtésére használva, bárki is irányítja azt. De Lord Acton óva intett bennünket: a hatalom megveszteget, az abszolút hatalom abszolút mértékben is képes rá, ezért aggódhatunk, hogy az emberiség talán nem elég okos, vagy inkább bölcs, hogy uralja ezt az óriási erőt. Erkölcsi aggályaink mellett a magasabb rendű elmék szolgasorban tartását illetőleg aggódhatunk, hogy ez a szuperintelligencia talán túljár az eszünkön, kitör, és átveszi az uralmat. Olyan kollégáim is vannak, akik szerint ez a hatalomátvétel rendben van, még ha az emberiség kihalását is okozza, ha az MI-k méltó leszármazottaink, gyermekeink. De honnan tudhatnánk, hogy az MI-k magukévá tették értékrendünket, nem öntudatlan zombik, melyeket emberi tulajdonságokkal ruházunk fel? És nem kéne, hogy azoknak, akik nem akarják az emberiség kihalását, legyen szavuk az ügyben? Ha egyik fejlett technológiai lehetőség sem nyerte el tetszésüket, ne feledjék, hogy a fejletlen technológia – kozmikus nézetből – öngyilkosság. Mivel ha nem haladjuk túl a mai technológiát, a kérdés nem az lesz, hogy kihal-e az emberiség, hanem az, hogy kihalásunkat egy gyilkos aszteroida, egy szupervulkán, vagy más katasztrófa okozza majd, melyet a jobb technológia megoldhatott volna.

14:19
Mi lenne, ha olyan ÁMI segítségével jutnánk a tortánkhoz, amely nincs szolgaságban, de jól viszonyul hozzánk, mert értékrendje egyezik a miénkkel? Ez a lényege annak, amit Eliezer Yudkowsky “barátságos MI”-nek nevezett el. Ez nagyszerű volna, ha megvalósítanánk! Nem csupán megszüntetné a betegségeket, szegénységet, bűnözést és más szenvedést hozó dolgokat, de szabadon választhatnánk a pozitív élmények fantasztikusan szélesedő skálájáról. Saját sorsunk irányítóivá tenne minket.

14:54
Összegezve, kapcsolatunk a technológiával bonyolult, de a nagy kép egyszerű. Az ÁMI-t pár évtizeden belül várja a legtöbb MI-kutató. Ha felkészületlenül ér bennünket, az valószínűleg az emberi történelem legnagyobb hibája lesz. Nézzünk szembe vele! Brutális, globális diktatúrát hozhat létre soha nem látott egyenlőtlenséggel, felügyelettel és szenvedéssel, és akár az emberiség kihalásával. De gondos irányítás mellett fantasztikus jövőben találhatjuk magunk, ahol mindenki élete jobb: a szegény gazdag, a gazdag még gazdagabb. Mindenki egészséges, és szabadon valósíthatja meg álmait.

15:35
De várjunk csak! Jobb- vagy baloldali politikát akarunk? Istenfélő társadalmat szigorú erkölcsi szabályokkal, vagy hedonisztikusat, korlátozások nélkül, akár a folyamatos Burning Man fesztivál. Gyönyörű partok, erdők, tavak legyenek, vagy inkább rendezzünk át néhány ilyen részt számítógépekkel, virtuális élmények létrehozására? Egy barátságos MI-vel mindegyik társadalmat létrehozhatjuk, szabadon választva, hol akarunk élni, mivel már nem korlátoznának bennünket intelligenciánk határai, csupán a fizikai törvények. Így a források és a hely erre szó szerint csillagászati mértékű lenne.

16:13
Választhatunk. Lehetünk önteltek a jövőt illetően, vak hittel, hogy bármely új technológia garantáltan jót hoz számunkra, és ismételgethetjük ezt mantraként, kormányát vesztett hajóként sodródva saját elértéktelenedésünk felé, vagy lehetünk igényesek, komolyan átgondolva, hogyan irányítsuk technológiánkat és hova akarunk eljutni vele, létrehozva a csodák korát. Mind azért vagyunk itt, hogy ünnepeljük a csodák korát, és úgy érzem, ennek lényege az, hogy ne legyőzötté váljunk, hanem megerősödjünk technológiánk által.

16:55
Köszönöm.

16:57

(Taps)