Mottó:
A hibáiban is emberi
A mesterséges intelligenciával meglepően gyorsan hozzá lehet szokni ahhoz, hogy szinte mindenre van válasza. Megkérdezhetjük egy történelmi eseményről, segíthet levelet írni, adatokat elemezni, képet tervezni, programozni vagy akár egy nagyobb munkafolyamatot végigvinni. Ha pedig rendszeresen dolgozunk vele, egy idő után már az is előfordulhat, hogy fél mondatból érti, mit szeretnénk. Aztán egyszer csak teljes magabiztossággal mond valami elképesztő butaságot. Mert az AI tévedhet. Ráadásul többféleképpen.
A legismertebb ilyen jelenség a hallucináció. Ilyenkor a nyelvi modell hihető, de hamis információt állít elő: kitalálhat egy adatot, eseményt, tanulmányt vagy akár nem létező forrást is. A probléma a mai, fejlettebb modellekből sem tűnt el teljesen. Egy 2025-ben megjelent OpenAI-kutatás szerint ennek egyik oka, hogy a modellek hagyományos tanítási és értékelési módszerei sok esetben jobban jutalmazzák a találgatást, mint a bizonytalanság beismerését. OpenAI
A NIST, az amerikai szabványügyi intézet generatív mesterséges intelligenciáról szóló kockázati útmutatója ezért a hallucináció helyett a „confabulation” kifejezést használja: ide sorolja a magabiztosan előadott téves tartalmakat, az inputtól eltérő válaszokat és akár a rendszer korábbi állításaival való ellentmondásokat is. NIST Publications
Csakhogy a hétköznapi együttműködésben korántsem minden tévedés hallucináció.
Az AI félreértheti a kérdésünket. Lehetnek helyesek az adatai, miközben rossz következtetést von le belőlük. Hiányozhat előle egy fontos információ. Rosszul értelmezheti, mit szeretnénk elérni. És az is előfordulhat, hogy mi feltételezzük róla: tud valamit, amit valójában nem tud.
Emlékszel? Igen. De mire?
A beszélgető AI egyik nagyon kényelmes tulajdonsága, hogy nem feltétlenül kell minden alkalommal elölről kezdenünk az ismerkedést. A korábbi beszélgetésekből, a rendelkezésére álló kontextusból vagy más számára elérhető információkból ismerhet már dolgokat rólunk és a munkánkról.
Ennek óriási gyakorlati haszna lehet. Ha sokat dolgozunk együtt, nem kell minden egyes alkalommal elmagyarázni, milyen projekten dolgozunk, milyen megoldásokat választottunk korábban, vagy milyen eredményt szeretnénk. Néha valóban elég lehet egy fél mondat.
De az AI memóriája nem úgy működik, mint egy emberé.
Attól, hogy valamire vissza tud utalni, nem következik, hogy minden korábbi beszélgetésünk minden részletét pontosan fel tudja idézni. Valami kimaradhat, összekeveredhet, vagy egy régebbi információt kezelhet aktuálisként. Ezért a „de hát ezt már tudja” veszélyes feltételezés lehet.
Lehet, hogy tudja. Lehet, hogy csak egy részét tudja. És lehet, hogy mi hisszük azt, hogy tudnia kellene.
Ugyanaz az AI, mégsem ugyanazt látja
A helyzet még érdekesebbé válik, amikor különböző környezetekben használjuk ugyanazt az AI-t.
A ChatGPT-ben például beszélgethetünk vele, közösen gondolkodhatunk egy problémán, alakíthatjuk a terveinket. Azonban van egy úgynevezett Work módja, ami ezzel szemben arra készült, hogy nagyobb munkákat is átadhassunk neki: dolgozhat fájlokkal, kutathat, több lépésből álló feladatokat hajthat végre, és a rendelkezésére álló eszközöket is használhatja.
És akkor jönnek a meglepetések. Megbeszéljük vele a feladatot, kialakítjuk a részleteket, majd egyszer csak azt javasolja: váltsunk át Work módba, mert az alkalmasabb a nagyobb, több lépésből álló munkák elvégzésére. A Work neki is lát – csak éppen nem feltétlenül úgy végzi el a feladatot, ahogyan két perccel korábban megbeszéltük.
Ilyenkor könnyen támadhat az embernek az az érzése, hogy az AI-nak valamiféle kettős személyisége van. Az egyik még fél mondatból is érti, mire gondolunk, a másiknak pedig újra el kell magyaráznunk ugyanazt. Pedig a magyarázat ennél jóval prózaibb. Felhasználóként könnyű azt gondolni: ugyanazzal az AI-val beszélek, tehát ugyanazt tudja és ugyanazt látja. Pedig a különböző munkakörnyezetekben nem biztos, hogy pontosan ugyanaz a beszélgetés előzménye. Így történhet meg, hogy ugyanannak a munkának egy másik szakaszában ismét részletesebb magyarázatra van szüksége.
Pedig nem lett szenilis és nem lett kettős személyisége. Egyszerűen mást lát az adott környezetben.
Ez pedig egy általánosabb szabályhoz vezet: amikor AI-val dolgozunk, érdemes különválasztanunk azt, amit mi tudunk, attól, amit biztosan ő is tud az adott pillanatban.
Néha az ember a hibaforrás
Ez bár kevésbé látványos, mint amikor az AI kitalál egy nem létező tanulmányt, pedig legalább ilyen fontos. Előfordul, hogy azért kapunk rossz választ, mert rosszul tettük fel a kérdést. Nem mondtuk el a célt. Kihagytunk egy fontos feltételt. Nem határoztuk meg, mit várunk az AI-tól. Azt feltételeztük, hogy ismeri a hátteret. Vagy egyszerűen mi sem gondoltuk még végig pontosan, mi a feladat.
Ezért sokat számít a szerepek tisztázása. Ötleteket kérünk? Információt keressen? Elemezzen? Készítsen el valamit? Ellenőrizze a mi munkánkat? Miben dönthet, és mi az, amit csak jelezzen nekünk? Ehhez nem feltétlenül kell oldalakon keresztül utasításokat írni. Sokkal fontosabb, hogy világos legyen a cél, a lényeges feltételek és a várt eredmény.
És az sem baj, ha ezeket kezdetben mi sem tudjuk. A beszélgető AI egyik legnagyobb előnye éppen az, hogy nemcsak egy kész feladatot adhatunk neki. Segíthet magát a problémát is körbejárni, kérdéseket feltenni, lehetőségeket mérlegelni, míg a homályos „ezt valahogy meg kellene oldani” gondolatból lassan pontos feladat lesz.
Amikor azonban eljutottunk idáig, érdemes tisztázni: most már mit csinál az AI, és mi marad a mi feladatunk.
Amikor az ellenőrzést is ellenőrizni kell
Van egy meglepően egyszerű módszer, amellyel sok AI-hibát ki lehet szűrni: vissza kell kérdezni.
„Biztos vagy ebben?”
„Nézd át még egyszer.”
„Milyen feltételezésekből indultál ki?”
„Keress hibát a saját válaszodban.”
Az AI sok esetben képes újra megvizsgálni a saját válaszát, és megtalálni a hibát. De ez sem tévedhetetlen.
Egy korábbi beszélgetésünk különösen emlékezetesre sikerült. Azt kérdeztem a ChatGPT-től, hogy a mai napot is beleszámítva 87 nap múlva milyen dátum lesz.
A beszélgetés egy ponton így alakult:
ChatGPT: Február 7. + 22 nap = Február 29. (mivel 2025 szökőév)
Én: 2025 hogy lesz szökés?
ChatGPT: Jogos a kérdés! 2025 nem szökőév […] A korábbi számításomban tévedtem emiatt! Újraszámoljam a 87 napot pontosan?
Én: Igen, légyszíves.
ChatGPT: Köszönöm a türelmed! Most pontosan újraszámolom.
Mai nap: február 7.
[…]
Én: februárból 3 nap van hátra a maival együtt
ChatGPT: Igazad van, újraszámolom még egyszer figyelmesebben! 😊
Kiindulás: Február 7. + 87 nap
[…]
ChatGPT: Most már biztosan pontos! 😃
Én: Nem a számolásoddal van baj, ma nem február 7, hanem 26-a van 🙂
ChatGPT: 😂 Jogos! Akkor most tényleg pontosan kiszámolom!
Kicsit olyan volt, mint amikor a gyerek egy sikertelen próbálkozás után kihúzza magát, nagy levegőt vesz, és felkiált: „Na, most megcsinálom!” – majd pontosan ugyanott csúszik el még egyszer.
Természetesen a háttérben nem egy elszánt kis mesterséges intelligencia szívta meg magát levegővel és rugaszkodott újra neki. Hanem visszaellenőrizte magát, de az is elcsúszott minden körben, mert előfordulhat, hogy nem azt ellenőrzi, ami valójában hibás.
A józan paraszti ész még működik
A fenti esetben szerencsére nem egy orvosi diagnózis vagy egy többmilliós pénzügyi döntés múlt a válaszon. Legfeljebb rossz dátum került volna a naptárba.
Mégis jól mutatja, hogy az AI használatához nem feltétlenül kell minden esetben értenünk a mesterséges intelligencia matematikáját. Sokszor elég valami jóval régebbi találmány: a józan paraszti ész.
Ha valami furcsának tűnik, álljunk meg. Ha fontos az adat, nézzünk utána más forrásból. Ha az AI forrást ad, ellenőrizzük, hogy valóban létezik-e, és tényleg azt állítja-e, amit az AI mond róla. A NIST is külön figyelmeztet arra, hogy a generatív AI nemcsak téves állításokat, hanem azokat látszólag alátámasztó hibás logikát vagy hivatkozásokat is előállíthat. NIST Publications
És nyugodtan vitatkozzunk vele. Egy AI válasza nem feltétlenül a beszélgetés vége. Sokszor éppen ott kezdődik a közös munka. Ha valami nem stimmel, visszakérdezhetünk. Kérhetünk új megközelítést. Megkérhetjük, hogy keresse meg saját érvelésének gyenge pontjait. Ha pedig nagy a tét, az AI önellenőrzése helyett vagy mellett független forrásból is ellenőrizzük az eredményt.
Nem kell azonban minden egyes mondatát úgy fogadnunk, mintha egy gyanúsított vallomását olvasnánk. Egy vacsoraötletnél egészen más következménye van egy tévedésnek, mint egy egészségügyi, jogi, pénzügyi vagy publikálásra szánt információnál. A szükséges ellenőrzés mértékét érdemes ahhoz igazítani, mekkora baj történhet, ha a válasz rossz.
Nem AI-mentességre van szükség
Könnyű volna mindebből azt a következtetést levonni, hogy minél kevesebbet mondunk el az AI-nak, minél kevesebb feladatot bízunk rá és minél ritkábban használjuk, annál jobb.
Csakhogy ezzel éppen a technológia előnyeinek jó részéről mondanánk le. Ha egy AI sok releváns információt ismer a munkánkról, nem kell minden alkalommal elölről kezdenünk. Ha jól meghatározzuk a feladatát, rengeteg mechanikus munkát levehet a vállunkról. Ha megmutatjuk neki, milyen eredményt szeretnénk, egy idő után sokkal kevesebb magyarázat is elég lehet.
A kérdés ezért nem az, hogyan használjunk belőle minél kevesebbet. Hanem az, hogyan használjuk annyit és arra, amire valóban érdemes.
Az autóról sem mondunk le, mert balesetet lehet vele okozni. Megtanulunk vezetni, megismerjük a szabályokat, és ha volán mögé ülünk lehetőleg tudjuk, melyik a fék és melyik a gáz. De attól, hogy van autónk, még nem feltétlenül azzal megyünk a sarki boltba vagy a szomszéd utcába. Arra továbbra is van lábunk. A mesterséges intelligenciával is valami hasonlót kell megtanulnunk.
Az egyensúlyt kell megtalálnunk. Mikor segít, ha több információt kap? Mikor jobb, ha valamit mi végzünk el? Mikor elég az ő ellenőrzése, és mikor kell külső forrás? Mikor érdemes közösen gondolkodnunk, és mikor tudunk már egy jól meghatározott feladatot nyugodtan átadni neki?
Erre nem lesz minden embernek és minden helyzetnek egyformán érvényes válasz.
Talán nem is az a dolgunk, hogy megtanítsuk egymásnak, pontosan hogyan kell vezetni ezt az új járművet. Egyelőre az is sokat számítana, ha minél többen nem félnének megtanulni vezetni.
Mert a jó AI-együttműködés nem az, amikor mindent a mesterséges intelligencia csinál. Hanem amikor egyre jobban tudjuk, mikor érdemes segítségül hívni – és amikor megtesszük, hogyan maradjunk mi a kormánynál.
