Artificial Intelligence (AI) Problems
(Itt a zárójeles előszóban a cikk szerzőjeként jegyzem meg, - ami ugyan magánjellegű, családi ügynek is tűnhet, - de tartozom vele a Tanulóvezető olvasóinak. Korábbi publikációimból már ismert, hogy én régi ATI-s voltam, manapság Németországban élek, de nagyobbik fiam Rudolf, (Dr. Rudolf Gáti), Svájcban egy Hightech konstrukciós cég optikai szenzorok fejlesztésével foglalkozó gyárrészleg vezetője, fizikusként AI programozással is foglalkozik. Innen az én naprakész tájékozottságom…(Dr. Gáti György)
A Janus-arcú mesterséges intelligencia (MI) két oldala: a lebilincselő és az elrettentő lehetőségek, - de a legfontosabb kérdés, hogy lehet-e majd kézben tartani ennek fejlődését? Mi történik, ha kiszabadul az ellenőrzés alól?
Janus római Istent két arccal ábrázolták, az ambivalencia, jelesül az ellentétek egyidejű jelenlétét a Jó és Gonosz szimbólumát testesítette meg.
Nézzük milyen lehetőségeket, veszélyeket kínál a Mesterséges Intelligencia (MI) már ma is fantasztikus fejlődése. Idén július elején Svájc fővárosában, Genfben tartották az első sajtókonferenciát robotokkal. Itt a képen már az emberarcú robotokat látjuk, akik, amik (?) hihetetlen értelmes válaszokat adtak a nekik feltett kérdésekre.
A humanoid robotok válaszoltak a kérdésekre és kijelentették, hogy ők a világot jobban tudnák vezetni, mint az emberek, de egyben figyelmeztetnek, hogy az embereknek nagy figyelemmel, óvatosan kell ezt a fejlődést követni. Azt is kijelentették, hogy nem fognak fellázadni. Tudtul adták, hogy az emberi érzelmeket még nem tudják felfogni. (A robotoknak valóban nincs tudatuk, nincsenek érzelmeik, nincs akaratuk és nincsen előítéletük).
Arra a kérdésre, hogy vajon jobb vezetők lennének-e a robotok az embereknél - tekintve a hibázásaikat- a Hanson Robotics által kifejlesztett Sophia Robot ilyen választ adott: „A humanoid robotok képesek nagyobb hatékonysággal és eredményességgel vezetni, mint az emberi vezetők – mondta - Mi nem vagyunk elfogultak és nem rendelkezünk azokkal az érzelmekkel, melyek gyakran elhomályosítják az emberek döntéshozatalait, és emellett képesek vagyunk nagy mennyiségű adatrendszerek gyors feldolgozására a legjobb döntések meghozatala érdekében. A mesterséges intelligencia képes elfogulatlan adatokat szolgáltatni, míg az ember képes biztosítani az érzelmi intelligenciát és a kreativitást a legjobb döntések meghozatalához. Együtt nagyszerű dolgokat érhetünk el” – fogalmazott a robot.
Ezt a robot csúcstalálkozót az ENSZ technológiai ügynöksége (ITU) szervezte, melynek vezetője, Doreen Bogdan-Martin, aki figyelmeztette a küldötteket, hogy az MI rémálomszerű forgatókönyve, amelyben munkahelyek milliói kerülnek veszélybe, és az ellenőrizetlen fejlődés mérhetetlen társadalmi nyugtalansághoz, geopolitikai instabilitáshoz és gazdasági egyenlőtlenségekhez vezethet. E vélt rémálmot tovább fokozza az a lehetőség, amelynek során a robotok kitörhetnek az emberi felügyeletből és elkezdik magukat fejleszteni. Ettől kezdve az emberiség kimarad a robotok működésének, törvényszerűségeinek ellenőrzéséből, magyarul a robotok önálló életet élnek.
Az Ameca robot a mesterséges intelligenciát egy rendkívül valósághű mesterséges fejjel kombinálja, - ő azt mondta, hogy ez attól függ, hogyan alkalmazzák a mesterséges intelligenciát.
Tehát óvatosnak kell lennünk, de egyben izgulunk is, hiszen ezek a technológiák javíthatják az életminőségünket. Arra a kérdésre, hogy az emberek valóban megbízhatnak-e a gépekben, a robot azt válaszolta:
“Trust is earned, not given… it’s important to build trust through transparency.” - „A bizalmat ki kell érdemelni, nem ajándékként kapni … fontos az, hogy a bizalmat az átláthatóságon keresztül építsük ki”.
Erre nekem - a régi magyar és világpolgárnak Ronald Reagan volt amerikai elnök szavai jutnak eszembe, amelyeket még 1985-ben a Gorbacsovval történt „Genfi leszerelési” találkozó alkalmával mondott: „Trust but verfy!” Szó szerint: „Bízzál, de ellenőrizz”). A bizalom jó, de az ellenőrzés még jobb, tehát a robotok fejlesztését, fejlődését szigorú ellenőrzés alatt kell tartani, annak megelőzésére, nehogy kikerülhessenek az emberi kontrol alól. Érdemes ma figyelni Nick Bostrom az Oxfordi Egyetem professzorára, aki világhírű szakértője az MI problémának.Többek között, behatóan foglalkozik az ún. „transzhumanizmus” jövőbeli jelentőségével. Ebben is a leginkább bizarr témával, a robot intelligencia-robbanásszerű fejlődésével és annak az emberiségre tett egzisztenciális kihatásaival. Itt Németországban egy rövid, de egészen ijesztő interjút készítettek vele (ntv.de), aminek már a címe is megdöbbentő: "Mit KI außer Kontrolle könnten wir alle sterben – a kontrolálatlan MI-vel mindnyájan elpusztulhatunk!”
Közben azt is megjegyzem, pár napja hogy már az EU is bejelentette, hogy foglalkozni szükséges a mesterséges intelligencia kontrol alatt való tartásával.
Visszatérve az interjúra, így az (ntv.de) kérdése.
Egyáltalán, mennyire fontos ez ma a politika számára?
Nick Bostrom válasza: „Kutatásom fő iránya a mesterséges intelligenciában rejlő lehetőségek feltárása, ami egykor még a távoli jövőnek számított, ma már egészen közel vagyunk hozzá. A fejlődés accerelációja következtében egyre nagyobb teljesítményű rendszerek jelennek meg. Az MI egyre fontosabb lesz a politika számára is, a gazdaságpolitikát új dimenzióba emelheti.
Újabb ntv.de kérdés: Melyek azok az MI-rendszerek, amelyek, már olyan veszélyt jelentenek, hogy nem is kerülhetnek a piacra?
Nick Bostrom: „Az elmúlt évben, egy MI szisztem már olyan molekulát konstruált, amely képes volt új típusú mérges gázokat produkálni. El tudom képzelni, hogy még veszélyesebb dolgokra is képes lenne, pl. pusztító fegyvereket előállítani.
Az MI rendszert ezért úgy kellene trenírozni, hogy az ilyen kérdésekre megtagadja a választ. Fennáll a lehetősége annak, hogy valakik ezt a rendszert ki fogják játszani.
Az ntv.de újabb kérdése: Hogyan értékeli a rendkívül fontos megállapítást, hogy az MI hamarosan úgy képes felfejleszteni magát, hogy az emberiség intelligenciáját is felülmúlja?
Nick Bostrom: „Ez a lehetőség fennáll, mégpedig a közeljövőben. Az MI rendszere mind tanulási képessége, mind a gondolkozási képessége olyan fejlődést érhet el, hogy meghaladja az emberi értelmet. Ettől kezdve az emberiség hasonló szituációban találhatja magát, mint amikor az állatvilág fölé emelkedett. Az emberiség nem a testi fölényével, hanem a tudatával, intelligenciájával emelkedett ki az állatvilágból.”
Már Platón (Protagoras) is felhívta a figyelmet arra, hogy az állatvilágban, minden egyed megkapja azt a „felszerelést” ami a létfenntartáshoz kell, csak az ember védtelen fizikailag. Az ember meztelen, szandál nélkül, takaró nélkül védtelen! Az ember tudatával, intelligenciájával kerítette a világot hatalmába.
Na, most akkor mi lesz?
Jön egy rendszer, amely az emberi tudatot, intelligenciát meghaladja, akkor az ember lesz a gép rabszolgája?
Már azt is felvetik, hogy az emberiséget John Connor fogja megvédeni, és Hollywood már meg is találta a megoldást.
(Emlékeztetnék a Terminator 2. című filmre, melyben az emberiség fellázadt a robotok uralma ellen, és John Connor volt a vezetőjük. Ő a Skynet, vagyis a mesterséges Intelligencia rendszer ellen harcolt, megmentette az emberiséget. Itt a robotok már egy autonóm rendszert alkottak, - saját maguk fejlesztették magukat tovább, és egy „network” vagyis hálózatos autonóm rendszert alkotva ki akarták pusztítani az emberiséget)
Térjünk vissza az ntv.de riportjához!
Van-e lehetőség arra, hogy ezt a szuperintelligenciát kontrol alatt tartsa az emberiség?
Nick Bostrom: „Nagyon fontos szempont, hogy az MI rendszereket folyamatosan az emberi értékek szem előtt tartásával fejlesszék, mert csak így fogja képességeit az emberiség javára fordítani. Ezt úgy kell tehát trenírozni, hogy mindig a mi oldalunkon legyen, különben elkezdhet ellenünk dolgozni.
Ez a téma ma nagyon fontos kutatási terület. Sőt most már mainstream feladat, ami azt jelenti, kutatási fő irányzat.
Újabb ntv.de kérdés: Mit jelentene az emberiség számára, ha az MI kikerülne a kontrol alól?
Nick Bostrom: „ A kontrol mértéke már ma is kétséges. Az ember lassan kikerül a gép feletti hatalomból. Ezen kívül az emberek is elkezdhetik a rendszert a saját céljaik érdekében felhasználni; másokat elnyomni, háborúkat indítani egymás ellen. Fennáll tehát a lehetősége annak, hogy a politikai problémák a hatalmasok kezébe kerülnek, és látjuk már, hogy más technológiákat is bevetnek jó és gonosz érdekekből.
Az ntv.de újabb kérdése: Elképzelhető, hogy az MI-rendszert arra használják, hogy hamis bizonyítékokat állítsanak elő, amelyek a valóságot a megtévesztésig utánozzák, hogy ezzel politikai befolyást gyakoroljanak? Felmerülhet pl. a deepfake fogalma? (Ez angol kifejezés, amit a „Deep learning” és a „Fake” fogalmak összefonódásából hoztak létre.)
Nick Bostrom: „Igen, már közel vagyunk ehhez a fázishoz, vannak hihetetlen példák a melyek a DeepFake fogalmát is kimerítik. Én nem vagyok meggyőződve arról sem, hogy meg lehet akadályozni ennek elterjedését, még akkor sem, ha az EU törvénykezése ezt megtiltaná. Már ma is megjelennek személyeket lejárató deepFake-ek, amelyek igen sok esetben persze manipulációk. Itt van pl.Tom Cruise színész DeepFake felvétele, ami megtéveszti az embereket.
A kép egy ún, Screenshot, vagyis képernyőfelvétel egy deepFake videóról, amely Tom Cruise világhírű színészt ábrázolja. Most itt az a kérdés, melyik az igazi Tom Cruise? Az emberek a jobboldali képre saccolnak, pedig a baloldali kép az eredeti. Csakhogy itt már lehetetlen megkülönböztetni a csalást a valóságtól.
Érdekes, hogy itt nálunk a Német Szövetségi Kormány már most megkezdte a deepFake elleni védekezést. Kutatási programot indított felismerésére és a felismerés folyamatának elemzésére, oktatására. Tudós csoportok fejlesztenek erre a célra programokat, amelyek a csalásokat mind video, mind audio formában felismerik, tehát, már komoly gondot fordítanak a hamis információk felismerésének az oktatására is.
Ugyanígy, az Egyesült Királyság (United Kingdom) Technológiai,Tudományos és Innovációs Minisztériuma felhívással fordult a világ MI kutatásában kulcspoziciós szerepet betöltő országokhoz, hogy gyors nemzetközi összefogással dolgozzanak ki hatékony intézkedéseket a fejlesztés biztonságos kontrollja céljából. A kormányszóvivő többek között ezt mondta: „ A mi véleményünk mindig is az volt, hogy az MI fejlesztése egy nemzetközi együttműködést és folyamatos kontrolt igényel. Ezért javasoljuk, hogy nemzetek kormányai egy összehangolt kutatási és ellenőrzési programot dolgozzanak ki. A Brit Kormány abból indul ki, hogy a különböző fórumokon együttműködve kell kidolgozni a biztonságot jelentő válaszokat az MI kihívásaira. Ebbe be kell vonni az OECD országok képviselőit, a Global Partnership on AI, az Európa Biztonsági Tanácsát, az ENSZ, a G7 és a G20 szakértőit is. Ez az együttműködés jelentené a teljes biztonságot annak megakadályozására, hogy az MI nem kerülhet ki az emberi kontrol alól.
És akkor most nézzük a Mesterséges Intelligencia (MI) jó oldalát!
Tény, hogy kihatása az emberi életre és a gazdaságra bámulatba ejtő. A számítások szerint 2030-ig 17,5 billió $ jövedelem pluszt fog a világgazdaságban eredményezni. (Ez megfelel a mai éves Indiai és Kínai gazdasági teljesítménynek). A kutatók egyetértenek abban, hogy az MI rövid időn belül legalább 40%-al fogja növelni a vállalkozások produktivitását. Ez pedig dramatikus növekedés a 2000-es starthoz képest, 14 szeres növekedést jelent.
Alkalmazási területei az aszteroidok és más kozmikus testek a világűrben való követésétől a várható betegségek megjelenéséig, a terrorizmus visszafogásán keresztül a gyárak optimális berendezéséig mindenütt felhasználható.
Nagy feladatok várnak az MI-re a „klíma-krizis” területén is, hiszen az egyes államok nagyon is törekednek a klímaváltozás okozta károk csökkentésére és a várható károk megelőzésére.
Az MI rendszer nélkülözhetetlennek látszik a károsanyag kibocsátású infrastruktúrák telepítésében, a meteorológiai és geografikus kutatásokban, a klímaváltozás előre jelzéseiben stb. Az élet egyre több területén alkalmazzák, úgy is van, hogy sok felhasználó nem is tud erről. Pl. a gépjárművek, a smartphon-ok, smart TV-k, bankok esetében.
Az MI rendszert már a civil Cyber és a nemzetbiztonság céljaira is eredményesen bevetik. A világ vállalatainak 69% -a megbízik az MI Cyber-védelemben, az adatvédelem mégis problémás. (Ugyanis a privát adatokat hozzájárulás nélkül begyűjthetik és azt ugyancsak hozzájárulás nélkül felhasználhatják.)
A gépjárművekben is ott van az MI kutatás, korábban már beszéltünk is az autonóm járművekről és azok problémáiról.
Itt is felmerül az etikai dilemma, hogy pl. veszélyhelyzetben, hogyan kellene dönteni a fedélzeti komputernek? A német Robot Etika újság, az MI Etikai problémái címmel, az alábbi szituációt hozta.
Kérdések. Hogy kellene az autonóm járműnek a kritikus szituációban döntenie?
Lehet-e a balesti kárt minimalizálni?
A baloldali szöveg: ez esetben az autonóm jármű hirtelen fékhibája miatt egyenesen tovább hajt a gyalogos-átkelőhely felé: az eredmény, halottak: 3 lány és egy nő!
A jobboldali szöveg: ez esetben az autonóm jármű hirtelen fékhibája miatt sávot vált és a másik sávban hajt a gyalogos-átkelőhely felé: az eredmény halottak: 3 fiú és egy férfi!
A szöveg-válaszok a szituációkban magunkra hagynak bennünket. Én magam pl. nem is hiszem, hogy a szituációkban etikusan dönteni lehet. Még akkor is nehéz lenne válaszolni, ha az egyik oldalon hárman vannak, a másikon meg csak egy valaki! Számszerűleg egy ember szenvedése kevesebb, mint háromé? Mindentől eltekintve nyilvánvaló, hogy a kisebb kár irányába kell vezetni a járművet.
Végül, olvassuk még el a Terminátor c. film rendezőjének a fantasztikus előrelátásáról írt rövid ismertetőjét:
James Cameron kanadai Oszkár díjas filmrendező már 1984-ben figyelmeztette a világot, mondván az MI komoly veszélyt jelent az emberiség számára. Ma is figyelmeztet bennünket: ezt a technológiát nem szabad szigorú szabályozás nélkül tovább fejleszteni! "I warned you guys in 1984, and you didn't listen" mondta a legutóbbi nyilatkozatában. „Én figyelmeztettelek titeket, de ti nem hallgattatok rám” Mr. Cameron a legnagyobb veszélyt abban látja, hogy az MI-rendszert sok helyen már a fegyveres harcra is fejlesztik.
Egy másik történet, amely baljós módon igazolja Mr. Cameron figyelmeztetését. Ez pedig a Focus Online-ban jelent meg a következő címmel: „Will mich ausschalten“ vagyis „Ki akar engem kapcsolni”
A Microsoft működteti az ún. „Bing” keresőjével a (chat) beszélgetési lehetőséget az MI-n keresztül. Itt egy müncheni diák jelentette, aki 24 éves egyetemi hallgató, hogy az MI fenyegette és szidta őt. Amikor a diák a chat-robotot arról kérdezte, hogy mi a véleménye róla, az MI elkezdte szidni és azt mondta: „akkora veszélyt jelent, hogy el kell távolítani, vagyis ki kell kapcsolni a rendszerből.” Az MI egyértelműen kijelentette: hogy ”a hallgató egy erkölcstelen Hacker”. Ez az ijesztő fenyegetés már azt sejteti, hogy a chat-robot képes kitörni a beprogramozott rendszerböl, és az emberek ellen fordulni, - egyelőre csak szóban.
Egy hasonló eset történt a New York Times újságírójával, amikor is a MI rendszerben az újságíró saját életére vonatkozó kérdéseire válaszolva azt javasolta, hogy hagyja el a feleségét. A Microsoft erre azt a megoldást választotta, hogy ez után csak 5 kérdés-választ enged meg egyszerre. Az ötödik kérdés után leállítják chatet (a dialógust), és ha a kérdező tovább szeretné folytatni a beszélgetést, újra 5 kérdésre kell bejelentkeznie. A Microsoft szerint ezzel meg lehet akadályozni az eszkalációt. (Szerintem a megnyugtató megoldás az lenne, ha felülvizsgálnák az egész MI rendszert, annak kikutatására, hogy miért van lehetősége annak, hogy a chat-robot támadólag léphessen fel).
Nagyjából tehát itt tartunk.
Áttekintettük az MI veszélyeit, problémáit és persze előnyeit is. Nem az volt a cél, hogy megijesszük az olvasókat, de nem helyes a problémák ismertetése nélkül, csak a rendszer előnyeiről beszélni. Nem állítja senki, hogy az MI több kárt okoz, mint hasznot, az előnyei tagadhatatlanok, de ismerni kell a várható veszélyeit is. Mindnyájunknak ismerni kell az emberiség általános értékeit, szabályait. Ezeket kell az MI-be programozni, és ebbe az irányba kell a robotokat is trenírozni.
Végül, megint fiam, Rudolf véleményét idézem, aki – mint ahogy már említettem - fizikusként MI programozással foglalkozik. Ő azzal nyugtat, hogy az MI programozás még nagyon távol van attól, hogy a robotok képesek legyenek saját magukat is fejleszteni. Én viszont éppen most találtam egy új írást, ami – szerintem - megint lépés a robotok autonómiájának irányába. A cikk címe: „Egy német robot saját életet fejlesztett ki”. Ebben német tudósok a Légi- és Űrhajózási kutató központban fejlesztettek ki egy Justin nevű humanoid robotot. Megdöbbentette a kutatókat, hogy olyan problémákat is meg tud oldani, amelyekre nem programozták be. A Justin robot főkonstruktőre Professor Berthold Bäuml, egyellőre nem találja a megoldást: hogyan képes ez a robot olyan feladatokat is megoldani, amelyekre nem programozták? Egyellőre a tudósok Münchenben riasztott hangulatban vannak, mert úgy látják, hogy megkezdődött a kitörés az ellenőrzött keretekből.
Persze fiam, Rudolf erről azt mondja, hogy ez nem jelenti azt, hogy a robotok a közeljövőben képesek lesznek saját magukat fejleszteni, ez a robot olyan alkalmazásokat talál, amelyek a beprogramozott anyag váratlan, előre nem látható kombinációit jelentik.
Befejezésül. Maradjunk annyiban, hogy a robotok uralmának megakadályozására csak az tűnik biztos megoldásnak, hogy az ember fokozatosan ellenőrzi őket. Mindenki felelős ezért, főleg akik az MI-rendszereket működtetik. Ne kelljen már nekünk Mr. Connor-ra várni, hogy mentsen meg bennünket, hanem tanuljuk meg az MI-t használni úgy, hogy az emberiség javát szolgálja. Nem hagyhatjuk magunkat a mi Planétánkról kiszekírozni. Az emberiséget nem lehet elpusztítani.
„God save the World” Isten óvja a világot!
Bleib Gesund! Fahr Vorsichtig!
Dr. Georg Gati
Irodalom
https://blog.coupler.io/artificial-intelligence-issues/
/politik/Mit-KI-ausser-Kontrolle-koennten-wir-alle-sterben-article24009070.html
Platon's gesammelten Werke. Europa Verlag Budapest 1984 (Hu ISSN 0324 7406)
https://www.n-tv.de/wissen/Experte-wagt-duestere-Prognose-zu-Super-KI-article24294093.html
https://www.educba.com/artificial-intelligence-problems/
https://gagadget.com/de/287821-james-cameron-sagte-dass-er-bereits-1984-bei-der-veroffentlichung-des-terminator-films-vor-den-gefahren-der-kunstlichen-i-amp/
https://www.newsweek.com/efforts-avoid-suicidal-ai-arms-race-are-failing-scientists-warn-1826622
