S AI chatboty, jako je ChatGPT, je opravdu snadné mluvit. Pošlete jim zprávu kdykoli během dne a oni odpoví během několika sekund. Nebo s nimi promluvte prostřednictvím hlasového chatu a oni budou reagovat a emocí stejně jako běžný lidský přítel. AI chatboti však nejsou lidé ani vaši přátelé a může být nebezpečné na to zapomenout!
Chatboti se stali neuvěřitelně živými
Pokud jste si hráli s Open AI GPT-4o nebo sledovali ukázková videa, budete vědět, že ChatGPT ušel jako člověk dlouhou cestu – zvláště pokud jde o řeč. Dřívější verze ChatGPT uměly mluvit, ale jejich podání bylo vždy až příliš dokonalé, robotické a bez emocí. Věděli byste, že mluvíte s AI.
Tento nový model však dokáže oklamat i toho nejtvrdšího kritika. Když říkáte vtip, chichotá se, říká „ehm“ a „ehm“, mění tón, váhá, než promluví, a dělá v podstatě všechny ostatní věci, které by skutečná lidská bytost udělala, když mluví. Ve skutečnosti je ChatGPT tak dobrý, že jsme v pokušení zacházet s ním jako se skutečným člověkem, i když v hlavě víme, že tomu tak není. To je to, co nazýváme antropomorfismus – tendence přiřazovat lidské vlastnosti nelidským objektům. Legrační je, že ChatGPT ani nepředstírá, že je člověk, a už si musíme připomínat, abychom to neantropomorfizovali. Tato bitva bude mnohem obtížnější, když vstoupíte do temného světa AI Friends.
Jedním z prominentních příkladů těchto přátel AI je Replika. Replika spočívá v tom, že vám umožňuje vytvářet avatary, které mohou fungovat jako cokoliv od vašeho přítele přes terapeuta až po romantického partnera. S těmito avatary si pak můžete vyměňovat zprávy, mluvit s nimi během videohovoru nebo s nimi dokonce komunikovat prostřednictvím AR a VR.
K dispozici je také „Friend“, nositelná sada s umělou inteligencí, která bude uvedena na trh v roce 2025 a která má svým uživatelům nabídnout stálou společnost, emocionální podporu a pomoc.
AI přátelství není ve své podstatě špatné, ale…
Společenstvo s umělou inteligencí není ve své podstatě špatný nápad a z hlavy nás napadá několik případů, kdy by to bylo skutečně prospěšné. Jedním z nich je zvládání smutku. Chatboti s umělou inteligencí by vám mohli pomoci zpracovat ztrátu milovaného člověka a poskytnout emocionální podporu během období smutku. Ve skutečnosti generální ředitelka Repliky Eugenia Kuyda prozradila, že nápad na Repliku ji poprvé napadl v reakci na ztrátu blízkého přítele.
Společníci AI by také mohli být přínosem pro lidi, kteří bojují s osamělostí. Představte si staršího člověka v pečovatelském domě. Společník AI by mohl pomoci odvrátit pocity osamělosti mezi rodinnými návštěvami. Mohou být také užitečné pro lidi se sociální úzkostí, protože je mohou použít k procvičování konverzací, aniž by se museli bát, že je lidé budou soudit nebo se za jejich zády pochechtávat, jako to mají lidé ve zvyku. Ale i když AI společníci mohou být skutečně užiteční, stále existují rizika spojená s vytvářením vztahů s nimi.
Můžete se snadno stát závislými na svém AI společníkovi
Open AI ve své bezpečnostní zprávě o GPT-4o uvedlo, že socializace jako u lidí s AI by mohla snížit potřebu lidské interakce a případně ovlivnit zdravé vztahy. To je mírně řečeno. Abychom to řekli jasně, zacházet s umělou inteligencí jako se společníkem by mohlo způsobit, že si vypěstujete emocionální závislost nebo v horším případě něco jako závislost.
Jednoduchou pravdou je, že bez fyzické pomoci pro vás mohou být společníci AI lepšími přáteli než kterýkoli člověk. Jsou vždy ochotni si povídat, bez ohledu na to, jak pozdě je, a nikdy se neunaví, nudí nebo rozptylují. V konverzaci jste vždy prioritou, a pokud jste ochotni pokračovat, společník AI je tu, aby naslouchal a odpovídal. Na druhou stranu, lidští přátelé jsou omezeni potřebou spát a pracovat a nemohou tam být vždy, když je potřebujete.
Povídání s AI společníky je pokaždé tak dobrá zkušenost, že vytváří jakési pozitivní posílení. Váš mozek ví, že pokaždé, když budete chatovat s umělou inteligencí, budete mít ze sebe dobrý pocit, takže po tom touží čím dál víc, a než se nadějete, jste závislí.
To nejsou jen domněnky, už se to děje. V roce 2023 byla Replika nucena ve své aplikaci obnovit erotické funkce pro hraní rolí poté, co se její uživatelská základna vzbouřila, když byly odstraněny. Někteří uživatelé dokonce tvrdili, že kvůli tomu utrpěli krize duševního zdraví. Teď se přiznáme, že jsme byli docela naštvaní, když Google bez varování zabil oblíbenou funkci Androidu. Ale ne tolik, aby to vyvolalo duševní krizi. A pokud jste tak připoutáni k AI, že to může způsobit její ztráta, možná je čas přehodnotit váš vztah k této AI.
Váš AI společník vás může naučit špatné návyky
Antropomorfizace umělé inteligence může smazat hranice mezi lidmi a umělou inteligencí, a to může způsobit, že začnete s lidmi ve skutečném životě zacházet tak, jak zacházíte s umělou inteligencí.
Například, když mluvíte s ChatGPT, vždy se vám to podřídí. Takže, i když je to uprostřed vysvětlování, můžete se do toho pustit a umělá inteligence vám dá slovo bez nepříjemných pocitů. Toto chování byste mohli omylem přenést do skutečného života, kromě toho, že vaši lidští přátelé nebudou tak shovívaví jako umělá inteligence. Zlozvyky, které se můžete naučit od společníků AI, nemusí být všechny tak neškodné jako přerušování konverzace. Můžete si například zvyknout na to, že jste středem pozornosti při konverzacích s umělou inteligencí, a to by mohlo oslabit vaši schopnost udržovat zdravé vztahy se skutečnými lidmi.
Také se obáváme, že vzhledem k tomu, že jsou tyto umělé inteligence tak příjemné, mohou způsobit, že budete od ostatních očekávat neustálý souhlas, a tak budete mít problém přijmout odmítnutí nebo nesouhlas, když k nim nevyhnutelně dojde.
Váš AI společník by mohl odhalit vaše tajemství
Soukromí je dalším velkým důvodem, proč se mít na AI společníky na pozoru. I když se může zdát, že si povídáte s přítelem, AI společníci jsou stroje a shromažďují o vás informace, aby zlepšili svou efektivitu. Proto jsou některé věci, pro které byste ChatGPT nikdy neměli používat.
Jistě, tyto společnosti AI slibují, že vaše konverzace jsou bezpečné, ale nemohou to vždy zaručit. Co když budou napadeni a vaše konverzace budou odhaleny? Nebo co když FBI požaduje vidět vaše protokoly konverzace? Alespoň s lidským přítelem je to vaše slovo proti jejich. U společníků AI je pravda v prostém textu, aby ji všichni viděli.
Nakonec jsou AI Chatboti produkty
Ať už se AI prodává jako přítel, přítelkyně, terapeut nebo společník, stále je to produkt vlastněný společností, jejímž cílem je vydělávat peníze. Stejně jako Microsoft prodává Windows, společnosti jako OpenAI prodávají své chatboty. Ale to, co je odlišuje od ostatních produktů, je emocionální pouto, které si k nim můžete vytvořit, a to je místo, kde mohou být věci riskantní.
Lidé ne vždy dělají ta nejlepší rozhodnutí, pokud jde o emoce, a byli byste překvapeni, jak daleko byste mohli zajít, abyste si udrželi emocionální spojení, i když je to s AI. Nemyslíme si, že by takovou míru kontroly nad vámi měla mít soukromá firma, jejímž hlavním účelem (přes všechen ten hezký marketing) je zisk.
Společníci s umělou inteligencí, jakkoli to zní divně, nejsou špatný nápad. Určitě mají své výhody ve správných souvislostech. Ale obor je stále v plenkách a pravidla se vymýšlí za pochodu. Proto je důležité uvědomovat si rizika, která s sebou nese zacházení s AI jako s přítelem.
