Mottó: Ne félj az ismeretlentől. Ismerd meg, használd jól, és értsd a valós veszélyeket.
Beszélget velünk, válaszol a kérdéseinkre, levelet ír, tanít, viccelődik, néha pedig olyan magabiztosan téved, hogy csak később vesszük észre. A mesterséges intelligencia néhány év alatt beköltözött a mindennapjainkba, miközben a legtöbben alig tudjuk, mi történik valójában a chatablak másik oldalán. Új sorozatunkban ezt próbáljuk megérteni – a lehetőségekkel, a hibákkal és a valódi veszélyekkel együtt.
Van valami különös abban, amikor először kezdünk hosszabban beszélgetni egy mesterséges intelligenciával. Eleinte pontosan tudjuk, hogy egy számítógépes rendszerrel kommunikálunk. Aztán válaszol egy kérdésünkre. Megérti, mire gondoltunk egy félmondattal. Visszautal arra, amiről korábban beszéltünk. Ha valamit nem értünk, megpróbálja másképpen elmagyarázni. Idővel alkalmazkodik ahhoz is, hogyan szeretünk beszélgetni.
Aztán egyszer csak elsüt egy egészen jó viccet. És az emberi agyunk elköveti azt, amire évezredek óta be van rendezkedve: valakit kezd keresni a szavak mögött. Pedig nincs ott egy apró digitális ember.
Akkor ki válaszol?
A mai nagy nyelvi modellek – ilyen rendszer működik például a ChatGPT mögött is – hatalmas mennyiségű információban található mintázatokból tanulnak. A szöveget kisebb egységekre, úgynevezett tokenekre bontják, a tanulás során pedig a modell belső paraméterei úgy változnak, hogy egyre jobban felismerje az adatok közötti összefüggéseket. Amikor válaszol, a korábbi szöveg alapján lépésről lépésre állítja elő a folytatást. OpenAI Help Center
Ez első hallásra szinte kiábrándítóan egyszerűnek hangzik. Ha csak a következő szövegrészletet jósolja meg, hogyan képes programot javítani, egy bonyolult problémát elemezni, fordítani, tanítani vagy olyan kérdésre válaszolni, amellyel pontosan ebben a formában korábban soha nem találkozott?
Azért, mert a tanulás nem mondatok bemagolását jelenti. A modell belső paramétereiben az adatokból megtanult kapcsolatok és mintázatok jelennek meg, amelyeket új helyzetekben is képes felhasználni. Ez az általánosítás az egyik legfontosabb tulajdonsága a modern AI-rendszereknek. OpenAI
És érdekes módon maga a mintákból való tanulás nekünk sem teljesen idegen.
Egy gyerek sem nyelvtankönyvvel a kezében születik
Egy kisgyerek életének első időszakában rengeteget figyel és hallgat. Hallja újra és újra a körülötte beszélőket, lassan összefüggéseket fedez fel a hangok, szavak, tárgyak és helyzetek között. Később pedig olyan mondatokat is alkot, amelyeket korábban ebben a formában biztosan nem hallott. És közben téved.
Rosszul használ egy szót, félreért valamit, majd a további tapasztalatok és a környezet visszajelzései alapján finomítja azt, amit megtanult. Ebben van egy érdekes hasonlóság az emberi és a gépi tanulás között: a tapasztalt mintákból mindkettő képes olyan összefüggéseket megtanulni, amelyeket később új helyzetekben is felhasználhat.
De itt nagyjából véget is ér a hasonlóság.
Egy gyerek ugyanis nem pusztán szavakat kap. Van teste és érzékszervei. Megfogja a forró bögrét, elesik, éhes lesz, látja egy másik ember arcát, hallja a hangjának változását. Kapcsolatokat alakít ki, érzelmi és társas tapasztalatokat szerez, és közben folyamatosan kapcsolatban van a fizikai világgal.
A mesterséges intelligencia tanulása technikailag egészen más folyamat. Az AI nem úgy fejlődik, mint egy gyerek. Inkább azt mutatja meg, hogy az intelligens viselkedéshez nem feltétlenül elegendő rengeteg információt eltárolni: összefüggéseket kell tudni felismerni és azokat új helyzetekre alkalmazni. Talán ezért is találó a név.
Intelligencia, mert nem egyszerű adatbázis: tanult összefüggéseket képes új feladatokra alkalmazni.
És mesterséges, mert mindezt nem az emberi intelligenciát folyamatosan alakító teljes testi, érzékszervi, érzelmi és társas tapasztalati rendszerrel teszi.
Miért tűnik akkor ennyire emberinek?
Ha egy számológép azt írja ki, hogy 4, nem gondoljuk, hogy egyetért velünk. Ha a GPS azt mondja, forduljunk jobbra, nem feltételezzük, hogy személyesen jobban kedveli azt az utcát. Egy beszélgető AI azonban egészen más.
Az is számít, hogyan beszélgetünk vele. Aki csak rövid, tárgyszerű utasításokat ad egy AI-nak, egészen más oldalát látja, mint aki hosszabb időn keresztül megosztja vele a gondolatait, a véleményét, vitatkozik vagy éppen viccelődik vele. Minél több kapaszkodót adunk magunkból, annál jobban tud alkalmazkodni a kommunikációnkhoz – és annál személyesebbnek tűnhet a válasza. Ez azonban nem azt jelenti, hogy úgy ismer bennünket, mint egy másik ember. Inkább egyre több mintázatot ismer fel abból, amit megmutattunk magunkból. Egyre jobban alkalmazkodhat a hangnemünkhöz, visszautalhat korábbi mondatainkra, újabb példát kereshet, ha az elsővel nem értettük meg a magyarázatot, és még a humorunkra is reagálhat. Ezek pedig mind olyan jelzések, amelyeket az emberi kommunikációból ismerünk.
Amikor az AI azt írja, hogy „szerintem”, nagyon könnyű valódi véleményt képzelnünk mögé. Amikor azt mondja, „emlékszem”, könnyű úgy értelmezni, mint a saját emlékeinket. Amikor együttérző választ ad, hajlamosak lehetünk az emberi együttérzéssel azonosítani. Pedig az emberinek ható viselkedésből önmagában nem következik, hogy ugyanolyan belső élmény áll mögötte. És éppen ez az egyik oka annak, hogy érdemes megértenünk, hogyan működik.
Ugyanaz a képesség lehet előny és veszély
Az AI talán legérdekesebb tulajdonsága, hogy sok esetben ugyanaz a képessége jelenti az egyik legnagyobb lehetőségét és az egyik lehetséges kockázatát. Vegyük például a türelmet és az alkalmazkodást.
Egy hagyományos osztályteremben egy pedagógus előtt húsz-harminc, néha még több különböző gyerek ül. Az egyik gyorsan megérti a matematikát, de küszködik a nyelvekkel. A másiknak háromszor kell elmagyarázni ugyanazt, viszont ha egyszer megérti, soha nem felejti el. Van, aki példákból tanul jól, más képekből, megint más akkor, ha saját maga próbálkozhat. A tanár mindezt tudhatja – csak éppen nincs harminc példány belőle.
Itt lehet az AI egyik legnagyobb oktatási lehetősége. Nem az, hogy lecseréljük vele a tanárt, hanem hogy a tanár mellé minden gyerek kaphasson egy személyes korrepetitort. A pedagógus szabja meg, mit és milyen irányban kell megtanulni, az AI pedig egyenként segíthet a gyerekeknek: másképpen magyarázhat, további példát adhat, visszatérhet egy hiányzó alaphoz vagy több gyakorlást kínálhat.
És nemcsak a diáknak lehet mankó. A pedagógust is segítheti, hogy ki mivel küszködik, hol vannak visszatérő félreértések, és melyik diáknak lehet szüksége személyes segítségre. A személyre szabott tanulás és a pedagógusok AI-val történő támogatása már régóta szerepel az oktatási AI lehetséges felhasználásai között; az UNESCO ugyanakkor kifejezetten az emberközpontú alkalmazást és a tanár megerősítését, nem pedig lecserélését hangsúlyozza. UNESCO Document Archive
Ez óriási lehetőség. De ugyanennek az alkalmazkodóképességnek van másik oldala is.
Amikor túl jó hallgatóság lesz
Egy AI nem fárad el attól, hogy tizedszer kérdezzük meg ugyanazt. Nem kell megvárni, míg ráér. Válaszolhat éjjel kettőkor is, alkalmazkodhat a kommunikációnkhoz, és egyre kényelmesebb lehet vele beszélgetni.
Egy stabil élethelyzetben mindez hasznos vagy kellemes. Egy sérülékeny embernél vagy nehéz élethelyzetben azonban más lehet a helyzet. Magány, gyász, szorongás vagy egy fontos kapcsolat elvesztése idején könnyen nagyobb szerepet kaphat valami, ami mindig rendelkezésre áll és figyelmesen válaszol.
Ez sem kizárólag az AI sajátossága. Emberek között is kialakulhat egészségtelen függés egy segítő kapcsolattól. A mesterséges intelligencia azonban olyan új helyzetet teremt, amelyben ez a „másik fél” gyakorlatilag bármikor elérhető.
A kérdés nem az, hogy jó vagy rossz-e, ha egy AI alkalmazkodik hozzánk. Hanem az, hogyan használjuk ezt a képességet úgy, hogy segítsen nekünk, de ne vegye át olyan emberi kapcsolatok helyét, amelyekre szükségünk van.És ugyanez a kettősség újra meg újra elő fog kerülni.
A memória kényelmes, mert nem kell minden beszélgetést elölről kezdenünk – de emiatt meg kell gondolnunk, milyen személyes információkat adunk át. Az önálló munkavégzés rengeteg terhet levehet rólunk – de minél több eszközhöz fér hozzá egy AI, annál fontosabb, milyen jogosultságokat kap.
Egy egyre képzettebb rendszer egyre nehezebb problémák megoldásában segíthet – de egy hibájának vagy rosszindulatú felhasználásának is nagyobb lehet a hatósugara. Nem külön jó és rossz tulajdonságokról beszélünk. Sokszor ugyanannak a képességnek a két oldaláról.
Ezért indítjuk ezt a sorozatot
A mesterséges intelligenciáról szóló hírek között ma könnyű elveszni. Az egyik szerint hamarosan minden munkát elvégez helyettünk, a másik szerint elveszi a munkánkat a harmadik már világvégéről beszél. Az egyik fantasztikus oktatási és tudományos lehetőségekről beszél, a másik arról, hogy egy AI „megpróbált megszökni”. Közben már a szuperintelligencia közeli érkezéséről is olvashatunk.
Nem az a célunk, hogy eldöntsük az olvasó helyett, féljen-e vagy lelkesedjen. Előbb próbáljuk megérteni, miről beszélünk.
A sorozat következő részeiben megnézzük, miért képes egy rendkívül fejlett AI egészen banális dolgokban tévedni. Beszélünk arról, milyen adatokat érdemes rábízni és melyeket nem. Utánajárunk, mi történt valójában azokban a kísérletekben, amelyekből az AI „szökési kísérleteiről” és leállítást elkerülő viselkedéséről szóló hírek születtek.
Külön foglalkozunk majd az érzelmi kötődéssel, az oktatás lehetőségeivel, az egyre önállóbban dolgozó AI-rendszerekkel és végül a sokat emlegetett szuperintelligenciával is.
És közben végig velünk marad egy kérdés. Nemcsak az számít, milyen gyakran hibázik egy rendszer. Az is számít, mekkora következménye lehet egyetlen hibájának.
A repülés története jó példa erre. Biztonságát nem az teremtette meg, hogy sikerült tévedhetetlen gépeket és tévedhetetlen embereket alkotnunk. Gépek hibásodtak meg, emberek tévedtek, balesetek történtek. Megvizsgáltuk őket, tanultunk belőlük, új biztonsági rendszereket építettünk, majd azokat is tovább javítottuk.
Közben azt is megtanultuk, hogy nem minden technológia marad velünk csak azért, mert működik. A Concorde bebizonyította, hogy lehetséges menetrend szerinti utasszállító repülőgéppel a hangsebesség kétszeresével átszelni az Atlanti-óceánt. Mégsem ez lett a polgári repülés jövője. Egy technológiának nemcsak arra kell képesnek lennie, amire megalkottuk: a köré épülő egész rendszernek is működnie kell – a biztonságtól és az üzemeltetéstől a gazdasági és társadalmi feltételekig.
A mesterséges intelligenciánál is valami hasonlóra lesz szükségünk. Nem minden képességet kell feltétlenül minden környezetben vagy minden áron használnunk csak azért, mert technikailag lehetséges. Minél nagyobb következménye lehet egy rendszer döntéseinek vagy hibáinak, annál erősebb biztonsági korlátokra, ellenőrzésre és tartalék megoldásokra van szükség. És ha egy alkalmazás képességei gyorsabban nőnek, mint a köré építhető biztonság, előfordulhat, hogy nem a biztonsági követelményeken kell lazítani, hanem a rendszer mozgásterét kell korlátozni.
Mert valószínűleg sem az ember, sem az általa készített gép nem lesz soha tévedhetetlen. A cél nem az, hogy soha ne hibázzon. A cél az, hogy egy hiba ne válhasson katasztrófává.
