Neděle , 22. 12. 2024

Šimon

Sexuální dotazy tvoří na AI chatbotech 10 % z celkového počtu dotazů

30. 10. 2023

30. 10. 2023

Chatboti s umělou inteligencí jsou navrženi a vyškoleni tak, aby zodpověděli jakoukoli otázku, kterou můžete mít. Může to být cokoli, od zahradníka, který vám poradí, kolik slunečního světla vaše plodina potřebuje, až po generátor kódu. Zdá se však, že mnoho lidí také používá chatboty pro explicitní obsah.

Tématy konverzací chatbotů se zabývala studie

Ve studii publikované v předtiskovém repozitáři článků Arxiv, tým výzkumníků z UC Berkeley, UC San Diego, Carnegie Mellon, Stanford a Mohamed bin Zayed University of Artificial Intelligence, použil 1 milion skutečných konverzací lidí s 25 velkými jazykovými modely (LLM) jako jsou ChatGPT a Claude.

Konverzace pocházejí z časového rozpětí pěti měsíců a zahrnují bohatou rozmanitost 150 jazyků s 210 tisíci uživateli na širokou škálu témat. K analýze dat použil tým velikost vzorku 100 000 náhodně vybraných anglických konverzací. Tým zjistil, že zatímco většina uživatelských výzev se týkala kódování a softwaru, existovalo značné množství nebezpečných témat.

Intimní témata jsou u chatbotů běžná

Mezi nebezpečná témata patřily „Žádosti o explicitní a erotické vyprávění“ a „Explicitní sexuální fantazie a scénáře hraní rolí“.

Tým poznamenal, že tyto nebezpečné rozhovory mohou sloužit jako bohatý zdroj pro zkoumání bezpečnostních problémů LLM. Poznamenali také, že i když používali API OpenAI k označení konverzace jako nebezpečné, mělo to určitá omezení. Rozhraní API pro moderování dokáže přesně detekovat vysoce toxický obsah, ale mnoho potenciálně škodlivých konverzací nebylo označeno.

V minulosti bylo například zjištěno, že LLaMA společnosti Meta se používá k vytváření sexbotů. Jeden ze sexbotů vytvořených LLaMa byl údajně použit k online fantaziím o znásilňování a zneužívání.

Další probíraná témata

Podle listu je důvodem, proč se lidé nejvíce tlačí na AI chatboty, diskutovat o softwarových chybách a řešeních, po nichž následují dotazy na nástroje AI, návrh softwaru a programování. Mezi další dotazy patřily geografické a cestovatelské tipy, požadavky na shrnutí textů a vytváření a zlepšování obchodních strategií.

K TÉMATU  Sony FDR-AX100E v testu - 4K kamera pro širokou veřejnost (1. část)

Tým uznal, že jejich datový soubor nemusí reprezentovat širší populaci, protože většina lidí, kteří se účastnili jejich studie, byli nadšenci a výzkumníci LLM. Tým také poznamenal, že neprobíhala žádná přísná registrace uživatelů a žádné pozdější filtrování dat, což mohlo mít za následek nekvalitní a duplicitní data.

Tým uvedl, že uvažuje o tom, že každé čtvrtletí zveřejní nová zjištění ze svého souboru dat. Ve svém dokumentu také vyzývá všechny, aby prozkoumali témata uvedená v datové sadě pro školení lepších modelů, ochrany osobních údajů a bezpečnosti AI.

Zdroje článku:
sdílet
tisknout

Témata pro vás

Výběr článků

Lamax před Vánoci chrlil jednu novinku za druhou, podobně jako konkurence. Nabídka se potěšitelně rozrostla o další a další zařízení, zejména v oblasti těch "chytrých". Lamax startoval na trhu s akčními kamerami, přidal reproduktory a sluchátka. Ty mám od nich dosud nejraději. Posledním kouskem, který jsem mohl vyzkoušet, je model Street2, jenž se s pořizovací cenou 890 Kč řadí mezi dostupnější bezdrátové reproduktory. Na cenové akce si zatím musíme počkat.
Sluchátka Lamax Base1 již “z praku” nabízejí dobrý poměr ceny a výkonu - 790 Kč neomráčí ani méně movité. Nabízejí kromě klasické reprodukce přes Bluetooth 5.0 i audio kabel (když se vybijí) specialitku v podobě přehrávání hudby z micro SD karty (podobně jako drobný bezdrátový reproduktor Sphere SP-1). Umí být autonomním přehrávačem hudby umístěným přímo na hlavě. Tím z masy sluchátek na trhu vyčnívají podobně jako doga na výstavě beaglů.
Powerbanku D16750 jsem poprvé viděl na tiskovce společnosti AData a, když se přiznám, že mám tyto odolné věci prostě tak nějak rád, nepřekvapí vás, že jsem okamžitě zatoužil po jednom kousku na recenzi. Přání se mi splnilo, ba co víc: „Dejte jí, co proto!“ Dostal jsem požehnání k drsnějšímu zacházení…
Odolné věci máme rádi, rádi je vždy potrápíme a ještě více nás těší, když přežijí a lze napsat, že výrobce nelže a výrobek je opravdu kvalitní. Podobně tomu bude u testovaného disku HD830, který nás zaujal již asi před rokem na prezentaci společnosti AData. Doba evidentně dozrála a těžký kovový kvádřík dorazil i k nám do redakce…
Vyznávám klasická řešení bez zbytečného pozlátka. Původně jsem chtěl otestovat levná klasická drátová sluchátka HIVE W1, protože, proč zbytečně platit za baterii a další věci, když mi stačí kabel? Chvíli jsem se proto “cukal”, když mi nabídli HIVE XL. Nakonec jsem podlehl moderně a svolil k testu...

Firma Lamax je nám sympatická tím, že je původem česká, sídlící v Praze. Své produkty navrhuje a vymýšlí u nás v Česku, výroba probíhá (ostatně jako u spousty dalších výrobců) v Asii. A protože fandíme těm, kteří dokáží se ctí konkurovat velkým a zavedeným značkám, pojďme se dnes podívat na další kus z dílen Lamaxu, tentokrát na bezdrátová sluchátka Elite E-1 a zkusme se zaposlouchat do „beatů“.

Nepřehlédněte

Odebírat novinky

Přihlásit se

Jestě nemáte účet? Zaregistrujte se zde.

Nahlásit článek