A Fekete Tükör (Black Mirror) című disztópikus Netflix-sorozat egyik legnyomasztóbb epizódja arról szól, hogy egy nő igénybe vesz egy vadonatúj szolgáltatást, amely képes megalkotni balesetben elhunyt férjének virtuális mását pusztán azáltal, hogy elemzi a férfi közösségi médiás tevékenységét.

Egy napon aztán felajánlja neki a szolgáltatás a legújabb kísérleti lehetőséget: a szimulált hasonmást egy mesterséges testbe költöztetik, mely épp úgy néz ki, mint a néhai férje. Ami ezután történik, azt nem szeretnénk lelőni, de annyit elárulhatunk, hogy nem lett jó vége. Mindez elsőre tudományos fantasztikumnak hangozhat, pedig korántsem az:

már igenis valóság a halott szeretteinket „feltámasztó” mesterséges intelligencia (MI).

A Science Alert arról ír, hogy több cég is kísérletezik olyan chatbotokkal, amelyek akár 10 dolláros áron, vagyis párezer forintért lehetővé teszik a felhasználóknak, hogy elbeszélgessenek elhunyt szeretteik virtuális avatárjaival. Ehhez nem kell mást tenniük, mint feltölteni a hozzátartozóval folytatott valamennyi beszélgetésüket, fotókat és róla készült videókat, majd az MI legenerálja nekik az alteregót. A horrorisztikus szolgáltatás azok körében is megosztó, akik már kipróbálták. Vannak, akik vigaszt nyernek benne, míg másokat nyugtalanítottak és manipulatívnak tartották azt, amit láttak.

Mások mellett a Deepbrain AI nevű startup is foglalkozik ezzel, a Re;memory nevű szolgáltatásukról az alábbi videóban adtak ízelítőt:

A Cambridge-i Egyetem kutatói nemrég meg is kongatták a vészharangot az általuk „digitális túlvilágiparnak” nevezett jelenség kockázatai miatt, amelyek számos etikai kérdést is felvetnek. A Philosophy & Technology című folyóiratban publikált kutatásukban arra figyelmeztetnek, hogy ezek a „gyászbotok” pszichológiai károkat okozhatnak, sőt akár „kísérteni” is tudják alkotóikat. Mindezt teljesen legálisan, hiszen a törvényi keretek még csak most vannak kialakulóban, ezért jogi szabályozást és átláthatóságot sürgetnek a kutatók.

„A generatív mesterséges intelligencia terén elért gyors fejlődés azt jelenti, hogy szinte bárki, aki rendelkezik internet-hozzáféréssel és némi alapismeretekkel, újraélesztheti elhunyt szeretteit” – mondta Dr. Katarzyna Nowaczyk-Basińska, a tanulmány egyik társszerzője. Hozzátette, a gyászbotok nemcsak az alkotóik mentális egészségének ártanak, de semmibe veszik az elhunytak jogait is. „Az MI ezen területe etikai aknamező. Fontos, hogy az elhunytak méltóságát helyezzük előtérbe, és biztosítsuk, hogy ezt ne sértsék például a digitális túlvilágipar üzleti érdekei” – fogalmazott.

A kutatók szerint a cégek gátlástalan eszközöket is bevethetnek, például reklámozhatnak a felhasználók elhunyt szerettei nevében.

A Guardian cikke szerint voltak olyan esetek, amik a sajtót is bejárták. 2021-ben egy kanadai férfi azzal került címlapokra, hogy a Project December nevű MI-eszköz segítségével létrehozott egy chatbotot, amely halott menyasszonya hangján beszélt. A tudósok szerint a technológia különösen a gyerekekre jelenthet veszélyt, akiket még jobban összezavarhat, ha például az elhunyt nagymamájuk hangján szólal meg egy gép. De önmagában azt is vitatják, hogy ezek a futurisztikus eszközök segíthetnek az érintetteknek a gyász feldolgozásában.

Mi történik, ha a mesterséges intelligencia túl nagy hatalmat kap?

Keleti Arthur kibertitok-jövőkutató nemrég a Reggeliben arról beszélt: a mesterséges intelligenciát használó rendszereknek igenis jár valami a fejükben, de nagyon sokat kell kérdezgetni őket, hogy megértsük, mit gondolnak. A szakértő azt mondta, a kutatók 10-20 százaléka szerint valós veszély lehet, hogy a mesterséges intelligencia átveszi az irányítást. A videóból kiderül, mi történik, ha az AI túl nagy hatalmat kap, és hogyan próbálják kizárni a használatukat bizonyos területekről.

Az rtl.hu korábban számos cikkben és videóban foglalkozott a mesterséges intelligencia veszélyeivel, ezeket ide kattintva érheti el.

Nyitókép (illusztráció): Getty Images

Legnézettebb

A Facebook a felhasználók személyes adataival tanítaná be a mesterséges intelligenciáját

Fontos, új funkció érkezik a Facebookra

Egy floridai exrendőr gründolja Putyin mesterséges intelligenciás álhírkampányát, ahol nemcsak híreket, hanem újságokat is hamisítanak

„Feltámasztja” halott szeretteinket a mesterséges intelligencia – mi baj lehet? Elmondjuk

AI képözön a Facebookon: romantikus erdei viskók és tengerparti házak