Pátek , 01. 08. 2025

Oskar

Sexuální dotazy tvoří na AI chatbotech 10 % z celkového počtu dotazů

30. 10. 2023

30. 10. 2023

Chatboti s umělou inteligencí jsou navrženi a vyškoleni tak, aby zodpověděli jakoukoli otázku, kterou můžete mít. Může to být cokoli, od zahradníka, který vám poradí, kolik slunečního světla vaše plodina potřebuje, až po generátor kódu. Zdá se však, že mnoho lidí také používá chatboty pro explicitní obsah.

Tématy konverzací chatbotů se zabývala studie

Ve studii publikované v předtiskovém repozitáři článků Arxiv, tým výzkumníků z UC Berkeley, UC San Diego, Carnegie Mellon, Stanford a Mohamed bin Zayed University of Artificial Intelligence, použil 1 milion skutečných konverzací lidí s 25 velkými jazykovými modely (LLM) jako jsou ChatGPT a Claude.

Konverzace pocházejí z časového rozpětí pěti měsíců a zahrnují bohatou rozmanitost 150 jazyků s 210 tisíci uživateli na širokou škálu témat. K analýze dat použil tým velikost vzorku 100 000 náhodně vybraných anglických konverzací. Tým zjistil, že zatímco většina uživatelských výzev se týkala kódování a softwaru, existovalo značné množství nebezpečných témat.

Intimní témata jsou u chatbotů běžná

Mezi nebezpečná témata patřily „Žádosti o explicitní a erotické vyprávění“ a „Explicitní sexuální fantazie a scénáře hraní rolí“.

Tým poznamenal, že tyto nebezpečné rozhovory mohou sloužit jako bohatý zdroj pro zkoumání bezpečnostních problémů LLM. Poznamenali také, že i když používali API OpenAI k označení konverzace jako nebezpečné, mělo to určitá omezení. Rozhraní API pro moderování dokáže přesně detekovat vysoce toxický obsah, ale mnoho potenciálně škodlivých konverzací nebylo označeno.

V minulosti bylo například zjištěno, že LLaMA společnosti Meta se používá k vytváření sexbotů. Jeden ze sexbotů vytvořených LLaMa byl údajně použit k online fantaziím o znásilňování a zneužívání.

Další probíraná témata

Podle listu je důvodem, proč se lidé nejvíce tlačí na AI chatboty, diskutovat o softwarových chybách a řešeních, po nichž následují dotazy na nástroje AI, návrh softwaru a programování. Mezi další dotazy patřily geografické a cestovatelské tipy, požadavky na shrnutí textů a vytváření a zlepšování obchodních strategií.

K TÉMATU  Sencor SDB 1010TU: povedený DVB-T set-top-box s USB přehrávačem

Tým uznal, že jejich datový soubor nemusí reprezentovat širší populaci, protože většina lidí, kteří se účastnili jejich studie, byli nadšenci a výzkumníci LLM. Tým také poznamenal, že neprobíhala žádná přísná registrace uživatelů a žádné pozdější filtrování dat, což mohlo mít za následek nekvalitní a duplicitní data.

Tým uvedl, že uvažuje o tom, že každé čtvrtletí zveřejní nová zjištění ze svého souboru dat. Ve svém dokumentu také vyzývá všechny, aby prozkoumali témata uvedená v datové sadě pro školení lepších modelů, ochrany osobních údajů a bezpečnosti AI.

Zdroje článku:
sdílet
tisknout

Témata pro vás

Výběr článků

Tisk na barevných inkoustových tiskárnách už dávno nemusí patřit k těm nejdražším. Naopak, díky nádržím na inkoust, který se jednou za čas jednoduše dotankuje, jde o tisk velmi levný. Srovnatelný s tiskem laserovým. Jak si vedla v našem testu tiskárna Epson L3060? A zmíníme se i o konkurenční rivalce Brother DCP-T500W.
Poměrně dlouhou dobu jsem neměl možnost vzít do rukou telefon z jiné země původu, než asijské. Až nyní jsem dostal možnost podívat se na smartphone od polského výrobce myPhone. Ten zatím zcela neprorazil (alespoň na tuzemském trhu), nicméně vyrazil do boje s nejlevnějším smartphonem na trhu – myPhone 6 FUN Lite. Telefon se dá pořídit za doporučených 1 490 Kč, nebo levněji. Otázka zní, co za oněch 15 stovek dostaneme?
BMW Manufacturing oznámilo nové partnerství s Figure, robotickým startupem, který se specializuje na humanoidní roboty. Díky partnerství budou roboti Figure nasazeni v závodě BMW ve Spartanburgu v Jižní Karolíně, největším vývozci automobilů v USA. Toto je první komerční dohoda, kterou Figure podepsala od svého založení v roce 2022. Společnost neprozradila, kolik robotů bude BMW používat, ale uvedla, že partnerství začne s malými množstvími a bude se rozšiřovat, pokud roboti splní výkonnostní očekávání.
Sluchátka Niceboy HIVE bones využívají technologii vedení zvuku přes lícní kosti. Váš zvukovod zůstává stále otevřený, takže slyšíte zvuky okolí. Pro mne je toto nesporná výhoda, například při jízdě na kole nebo při běhání. Ten, kdo se naopak chce od okolních zvuků oprostit, tomu bychom je nedoporučovali.

Nepřehlédněte

Test powerbanky jsme vám dlouho nenabídli, při tom se rychle píší a práce s tím taky není tolik. :o) Ale vážně. Naposledy to byla snad odolná AData D16750 (resp. D8000L), kde jsme se více zaměřili na pokusy ji zničit. Slouží stále. Dnes tu máme obyčejnou za to kapacitně obrovskou P20100 za přijatelnou cenu. A to není jediný parametr, ve kterém předčila nezničitelného sourozence...

Odebírat novinky

Přihlásit se

Jestě nemáte účet? Zaregistrujte se zde.

Nahlásit článek