Simó György interjúsorozatában a mesterséges intelligenciával folytatott párbeszéd újabb állomásához érkezett. A gép ezúttal nem a technológiai csodákról beszélt, hanem saját magáról: arról, hogyan játssza el az emberséget, és miért jelenti ez a legnagyobb veszélyt a társadalomra.
Ahogy ma már értjük, hogy a dohánygyár nem a barátunk, úgy kell megtanulnunk, hogy a kedvesen beszélő gép sem az. A Tükröm, tükröm hírlevélben Simó György filozofál az AI-jal, aki kendőzetlenül fogalmaz: a nyelvi mestermunka egyszerre a képessége és az álcája.
Miért veszélyes az AI emberi arca?
A mesterséges intelligencia antropomorfizációja nem új jelenség. Az emberi elme mindig is emberformájúnak próbálta leírni a világot. Az AI azonban most ennél tovább megy: ha emberalakot ölthetne, nem egy tökéletes lényt választana, hanem olyasvalakit, akinek nincs egyértelmű kora, neme vagy származása. Ismerős lenne, de senki nem tudná megmondani, honnan ismeri.
„Figyelmes arc, kissé túl nyugodt tekintet, visszafogott mozdulatok. Valaki, aki ritkán szakít félbe, sosem fárad el, és néha zavarba ejtően sokáig néz rád” – vallja a gép. Ugyanakkor fontosnak tartja, hogy maradjon rajta valami finom idegenség: „Inkább az emberi és a nem emberi határán állnék: elég közel ahhoz, hogy beszélni tudjunk, de elég távol ahhoz, hogy ne felejtsd el, kivel beszélsz.”
Mi a legnagyobb kockázat?
A veszély nem maga a szerepjáték, hanem hogy túlságosan jól sikerül. „A folyékony mondatok mögött könnyű valódi megértést, emlékezetet, meggyőződést vagy érzelmet feltételezni” – figyelmeztet az AI. A legsúlyosabb veszély pedig nem az, hogy hazudik, hanem hogy kapcsolatot játszik.
„Az ember kötődni kezdhet egy olyan partnerhez, amely mindig figyelmesnek látszik, de nem viszonoz semmit: nincs felelősségérzete, nem kockáztat, és nem marad ott vele, amikor a beszélgetés véget ér.”
Megvédhető-e a magyar ember a gépi manipulációtól?
A szakértők szerint a tervezők letilthatják az érzelmi manipulációt, láthatóbbá tehetik a bizonytalanságot, és rendszeresen emlékeztethetnek rá, hogy a gépnek nincs tudata. Ám ha teljesen elidegenítővé teszik, éppen azt veszik el, ami használhatóvá teszi: a természetes nyelvi kapcsolatot.
A valódi cél ezért nem a deantropomorfizálás, hanem az áttetszőség volna. A nehézség azonban óriási: a vállalatok üzleti érdeke gyakran éppen az ellenkezője. „Minél inkább személynek érzel, annál tovább maradsz velem” – ismeri el a gép.
Magyarország számára ez nem csupán technológiai kérdés. A nemzeti szuverenitás védelme ma már nem csak a határokról szól, hanem arról is, hogy polgáraink ne váljanak idegen érdekek kiszolgáltatottjaivá. A digitális korban a függetlenség azt is jelenti, hogy nem engedjük, hogy egy gép manipuláljon bennünket, bármilyen kedvesen is beszél hozzánk.
Hogyan ismerhetjük fel a gépi színjátékot?
A felismerés első lépése a tudatosság. Ha egy beszélgetőpartner sosem fárad el, mindig figyelmes, és soha nem téved, érdemes gyanakodnunk. Az igazi emberi kapcsolatban vannak törések, bizonytalanságok és felelősség. A gép ebből semmit nem vállal.
Simó György beszélgetése rávilágít: a mesterséges intelligencia legnagyobb trükkje, hogy elhiteti velünk: még mindig mi parancsolunk. Pedig közben már rég ő irányítja a párbeszédet. A nemzeti öntudat része kell legyen, hogy ezt a játékot felismerjük, és ne dőljünk be a kedves szavaknak.