KIBU: A Demo Day-en debütál az a Sztella névre hallgató virtuális asszisztens, amit már egy jó ideje programozol olyan ellenfelekkel megküzdve, mint például a magyar nyelv. Mikor kezdtél el foglalkozni a mesterséges intelligencia-kutatással, illetve milyen definíciót használsz erre a területre?

NAGYFI RICHÁRD: A kezdetek kezdetén keresőrobotokkal dolgoztam, amik adatokat gyűjtöttek a neten weboldalakról, az általuk gyűjtött információ összesítéséből pedig ki tudtam mutatni a számomra szükséges mintáztokat. Amikor bejött a Facebook Magyarországra, akkor a felhasználók nyilvánosan elérhető adatainak a feldolgozásával csináltam ugyanezt. Gründoltunk egy startupot a barátaimmal, ami bizonyos termékekről és a versenytársaikról nyújtott áttekintést az alapján, hogyan beszélnek róluk a közösségi media felületeken. Könnyen olvasható diagrammokra feldobálva meg tudtad nézni, hogy ítél a közvélemény, ahelyett, hogy több száz oldalnyi kommentet végigolvasnál. Az ilyen típusú adatgyűjtéseken képeztem ki magam, majd akkor tudtam igazán használni ezt a tudást, amikor az ipar számára is központba került a terület. Az egyre növekvő adatmennyiségnek egyre olcsóbb és gyorsabb a tárolása és feldolgozása, ebből kialakult egy big data hype, ami Magyarországon főképp ugyanezt jelentette: online felületek adatainak az összegyűjtését és feldolgozását. Akkoriban főleg társadalomtudósok foglalkoztak ilyen feladatokkal, de a digitális lenyomatok méréséhez már programozói tudás is kellett, így ez profilba vágott.

A gépi tanulás rövid története: http://bit.ly/2JpKZq2

KIBU: Az utóbbi években a mesterséges intelligencia-kutatás nagy felfutást ért meg. Milyen hitek és tévhitek határozzák meg az erről szóló diskurzust? Nagy szakadék tátong a tudomány valós eredményei és a popkulturális megjelenítése között?

RICHÁRD: Amióta léteznek számítógépek, azóta szeretnék az emberek, sőt maguk a tudósok is elhinni, hogy már közel járunk ahhoz, hogy emberhez hasonló mesterséges intelligenciákat hozzunk létre. A ’60-as évektől kezdve – nagyjából a Perceptron hardveres megszületésétől, – annyi történt, hogy a hatalmas adatmennyiséget matematikai modellekkel való osztályzás során úgy pótolják ki adatpontokkal, hogy a válaszok automatizált formában hasznosak legyenek az emberek számára. Azt, hogy ebbe belelátunk olyan dolgokat, amit a populáris kultúrában mutatnak a robotokról vagy a mesterséges intelligenciáról, az lényegében egy tejesen másik vonulat. Ha félünk attól, hogy jönnek a robotok és leigázzák az emberi civilizációt, kevesebb képzelőerővel egy egyenlettől is ugyanennyire kéne félni.

A megszemélyesítés arra szolgál, hogy az emberek értsék, hogy egyre nagyobb tere van a mesterséges intelligenciának, egyre többen akarjanak ezzel foglalkozni, de a világon semmi emberi nincs benne. Az emberi zsenialitás az, ahogy különböző, a világban tapasztalható eseményekből számokat csinálunk és ezeknek a számoknak a feldolgozásából generálunk olyan kimeneteleket, amik jobbak annál, amit egy ember lenne képes mondani a megfigyelései alapján. De ennek semmi más olyan vonzata nincsen, ahogy az intelligenciáról fogalmat alkotunk. Ha valakit intelligensnek mondjuk, akkor feltételezzük, hogy egy csomó területen kompetens, jól viselkedik, megbízható, de ha egy számítógépes program intelligens, akkor az azt jelenti, hogy van egy feladat, amire nagyon jól tud optimalizálni. Ugyanúgy, ahogy a repülőgép meg a madár között is annyi különbség van, hogy mindkettő repül, de nem kell belelátni azt, hogy mikor fog kapirgálni meg mikor fog csiripelni az ablakom alatt. Ennek ellenére maga a léte teljesen felforgatta az emberi civilizációt és ugyanúgy lehet jóra vagy rosszra használni, mert bele tudok ülni és el tudok repülni x óra alatt a föld másik pontjára meg lehet vinni vele atombombát is. 

KIBU: Milyen veszélyeket látsz ebben az antropomorfizálásban?

RICHÁRD: Két fő veszélye lehet ennek a félreértésnek. Az egyik, hogy nem látjuk tőle a valódi problémát. Amikor olyan mondatok lesznek virálisak és váltanak ki közfigyelmet, hogy az AI veszélyes, mert kiírtjuk magunkat, akkor mindenki azt látja, hogy jönnek a terminátor robotok és ez teljesen elviszi a beszélgetést. A problémára leginkább úgy kell gondolni, hogy vannak olyan rendszereid, amik emberi erőforrásnál jobban működnek és gyakorlatilag marginális a költségük, és ez felforgató hatással lesz a társadalomra. Ezekről nem beszélnek, mert mindenki azon gondolkodik, hogy mi lesz akkor, ha egy kenyérpirító mérges lesz mert fellázad és fog egy fegyvert, ami teljesen nonszensz. Ahány AI szakértő van, annyi plusz egy elképzelés van arról, hogy milyen jövőt hoz nekünk a mesterséges intelligencia, kell-e tőle félni és ha kell, mikortól kell. Megoszlanak a vélemények, de egy dologban mindenki egyetért: ha tényleg jönne egy AI apokalipszis, az nem úgy nézne ki, mint bármelyik filmben.

A jogalkotás területén tapasztalhatunk még érdekes dilemmákat. Már most látszik, hogy a jogalkotók is teljesen emberként próbálják felfogni az AI-t, az új adatvédelmi határozat (GDPR) megszövegezésében szerepeltek olyan megkötések, hogy egy ajánló- vagy döntéshozatali rendszert kötelezni kell, hogy elmondja, hogyan hozott meg egy döntést. Magyar kötelezel egy nemlineáris függvényt, hogy mondja el milyen bemeneti értékek együttállására milyen kimenetet ad és ezt miért teszi. Ezen a példán egyértelműen kijön, hogy fel se tudják fogni és nem is értik, miről van szó. 

Emellett naponta belefutunk olyan hírekbe, hogy az AI rasszista és hasonló minősítések. Ha beküldenek adatokat egy rendszerbe, ami alapján kijön valamit, ami néha jól működik, néha nem, az nem azért van, mert rasszista lenne az AI, hanem azért, mert az adatokat, amiket beleadtunk vagy maguk a feldolgozó egységek egy bizonyos szempontból jobban működnek, egy bizonyosból pedig nem. Ha például a Google-ben rákeresel arra, hogy „kéz” és kizárólag tökéletesen befotózott fehér kezeket látsz, az nem azért van, mert a Google algoritmusa rasszista, hanem mert erre keresnek a legtöbben Stock fotón és ezt tanulta meg. Ezek teljesen elviszik a beszélgetést, amikor a valódi problémákról kéne beszélni. Ami pedig az, hogy nem nagyon lesz szükség egy csomó fajta emberi munkára nagyon rövid időn belül.

Nem a technológia a white supremacist, hanem a felhasználói választások és betáplált adatok adják ki a torzulásokat


"Míg a munkát az elmúlt kétszáz évben fokozatosan kiszorította a technika, az informatika és a mesterséges intelligencia fejlődésével ez a folyamat mostanában éri el csúcspontját. Az elektronika térhódítása ugyanazt teszi a középosztállyal, mint a mechanika a kétkezi munkásosztállyal, csak sokkal gyorsabban" (Wolfgang Streeck)