Pondělí , 31. 03. 2025

Arnošt

Sexuální dotazy tvoří na AI chatbotech 10 % z celkového počtu dotazů

30. 10. 2023

30. 10. 2023

Chatboti s umělou inteligencí jsou navrženi a vyškoleni tak, aby zodpověděli jakoukoli otázku, kterou můžete mít. Může to být cokoli, od zahradníka, který vám poradí, kolik slunečního světla vaše plodina potřebuje, až po generátor kódu. Zdá se však, že mnoho lidí také používá chatboty pro explicitní obsah.

Tématy konverzací chatbotů se zabývala studie

Ve studii publikované v předtiskovém repozitáři článků Arxiv, tým výzkumníků z UC Berkeley, UC San Diego, Carnegie Mellon, Stanford a Mohamed bin Zayed University of Artificial Intelligence, použil 1 milion skutečných konverzací lidí s 25 velkými jazykovými modely (LLM) jako jsou ChatGPT a Claude.

Konverzace pocházejí z časového rozpětí pěti měsíců a zahrnují bohatou rozmanitost 150 jazyků s 210 tisíci uživateli na širokou škálu témat. K analýze dat použil tým velikost vzorku 100 000 náhodně vybraných anglických konverzací. Tým zjistil, že zatímco většina uživatelských výzev se týkala kódování a softwaru, existovalo značné množství nebezpečných témat.

Intimní témata jsou u chatbotů běžná

Mezi nebezpečná témata patřily „Žádosti o explicitní a erotické vyprávění“ a „Explicitní sexuální fantazie a scénáře hraní rolí“.

Tým poznamenal, že tyto nebezpečné rozhovory mohou sloužit jako bohatý zdroj pro zkoumání bezpečnostních problémů LLM. Poznamenali také, že i když používali API OpenAI k označení konverzace jako nebezpečné, mělo to určitá omezení. Rozhraní API pro moderování dokáže přesně detekovat vysoce toxický obsah, ale mnoho potenciálně škodlivých konverzací nebylo označeno.

V minulosti bylo například zjištěno, že LLaMA společnosti Meta se používá k vytváření sexbotů. Jeden ze sexbotů vytvořených LLaMa byl údajně použit k online fantaziím o znásilňování a zneužívání.

Další probíraná témata

Podle listu je důvodem, proč se lidé nejvíce tlačí na AI chatboty, diskutovat o softwarových chybách a řešeních, po nichž následují dotazy na nástroje AI, návrh softwaru a programování. Mezi další dotazy patřily geografické a cestovatelské tipy, požadavky na shrnutí textů a vytváření a zlepšování obchodních strategií.

K TÉMATU  První plně elektrický robot na světě se může pochlubit 550 biliony operací a rychlostí 6 km/h

Tým uznal, že jejich datový soubor nemusí reprezentovat širší populaci, protože většina lidí, kteří se účastnili jejich studie, byli nadšenci a výzkumníci LLM. Tým také poznamenal, že neprobíhala žádná přísná registrace uživatelů a žádné pozdější filtrování dat, což mohlo mít za následek nekvalitní a duplicitní data.

Tým uvedl, že uvažuje o tom, že každé čtvrtletí zveřejní nová zjištění ze svého souboru dat. Ve svém dokumentu také vyzývá všechny, aby prozkoumali témata uvedená v datové sadě pro školení lepších modelů, ochrany osobních údajů a bezpečnosti AI.

Zdroje článku:
sdílet
tisknout

Témata pro vás

Výběr článků

Pro mnoho lidí neexistuje nic horšího, než když musí trávit nekonečné chvíle čekáním až skončí reklamy na YouTube. Když se poprvé objevila možnost předplatného bez reklam, pro řadu lidí to byla spása. Je ale neuvěřitelné, kolik lidé je ochotných platit za to, aby se nemuseli s reklamami trápit. YouTube dosáhl tento měsíc důležitého milníku pro své úrovně placené hudby a videa, když celosvětově překonal hranici 100 milionů odběratelů.
Naos znamená posvátnou schránu pro sochy bohů. Co tím chce asi Lamax říci? Má přidomek evokovat nečekané schopnosti novinky? Modelové číslo X7.1 naopak naznačuje dílčí evoluci předchozí X7 Mira. Jak zní tedy odpověď? Nepůjde jen o evoluci, zjistíte záhy, protože přibylo nejen funkcí, ale též vybavení včetně dálkového ovladače a mnoho dalšího. Čekejme více, než byste tipovali, není to jen o dálkovém ovladači.

AV receiver je mimořádně užitečné zařízení, jehož význam rozhodně neklesá. Naopak je až s podivem, kolik audio-video-počítačových nadšenců by jej využilo, ale přesto jej ještě nemají. Přitom takovéto zařízení vám může sloužit 10 až 20 let. Zjistěte s námi, k čemu vám bude dobrý a jakým byste si mohli třeba udělat radost.

Před nějakým časem jsme měli v rukou MXQPiPO TV a Remix Mini, čili zařízení, která činí televizor „chytřejší“. Nyní jsem dostal k dispozici další mini PC - model Xtreamer mxV v České republice distribuovaný firmou Umax. Dle samotného vyjádření výrobce je jejich cílem vytvářet cenově dostupná zařízení pro pohodlné přehrávání multimédií. Ve svém portfoliu nabízí spoustu modelů, jen sám model mxV, který je předmětem této recenze, má hned další dvě verze – Plus a Pro.

Nepřehlédněte

V moderním světě, kde první dojem může hrát velkou roli, má tisk kvalitních etiket zásadní význam. Etikety nesou nejen informace, ale i identitu vaší značky. A aby byla tato identita zachycena co nejpřesněji a nejvýrazněji, je potřebná tiskárna štítků, která spojuje technickou preciznost s kreativním potenciálem.

Odebírat novinky

Přihlásit se

Jestě nemáte účet? Zaregistrujte se zde.

Nahlásit článek