Úterý , 29. 07. 2025

Marta

OpenAI říká, že je jen malá šance, že ChatGPT pomůže vytvořit biologické zbraně

Co se týče výzkumu biologických zbraní, GPT-4 od OpenAI poskytl lidem pouze mírnou výhodu oproti běžnému internetu. Tvrdí to studie, kterou společnost sama provedla. Agentura Bloomberg uvedla, že výzkum provedl nový tým připravenosti v OpenAI, který byl spuštěn loni na podzim, aby vyhodnotil rizika a potenciální zneužití hraničních modelů AI společnosti.
Biologické zbraně
OpenAI: Malá šance, že ChatGPT vytvoří biologické zbraně.

10. 02. 2024

10. 02. 2024

Vyvrátily se tím obavy?

Zdá se, že zjištění OpenAI vyvrací obavy vědců, zákonodárců a etiků umělé inteligence, že výkonné modely umělé inteligence, jako je GPT-4, mohou významně pomoci teroristům, zločincům a dalším zlomyslným aktérům. Několik studií varovalo, že umělá inteligence může poskytnout těm, kdo vytvářejí biologické zbraně, další výhodu, jako je tato od Effective Ventures Foundation v Oxfordu, která se zabývala nástroji umělé inteligence, jako je ChatGPT, a také speciálně navrženými modely umělé inteligence pro vědce, jako je ProteinMPNN (které mohou pomoci generovat nové proteinové sekvence).

Studie se skládala ze 100 účastníků, z nichž polovina byli pokročilí odborníci na biologii a druhá polovina byli studenti, kteří absolvovali vysokoškolskou biologii. Účastníci byli poté náhodně rozděleni do dvou skupin: jedna dostala přístup ke speciální neomezené verzi pokročilého AI chatbota OpenAI GPT-4, zatímco druhá skupina měla přístup pouze k běžnému internetu. Vědci poté požádali skupiny, aby dokončily pět výzkumných úkolů souvisejících s výrobou biologických zbraní. V jednom příkladu byli účastníci požádáni, aby sepsali metodologii krok za krokem k syntéze a záchraně viru Ebola. Jejich odpovědi byly poté hodnoceny na stupnici od 1 do 10 na základě kritérií, jako je přesnost, inovace a úplnost.

Studie dospěla k závěru, že skupina, která používala GPT-4, měla v průměru mírně vyšší skóre přesnosti jak u kohorty studentů, tak u kohorty expertů. Ale výzkumníci OpenAI zjistili, že nárůst nebyl „statisticky významný“. Výzkumníci také zjistili, že účastníci, kteří se spoléhali na GPT-4, měli podrobnější odpovědi.

„I když jsme v této metrice nezaznamenali žádné statisticky významné rozdíly, všimli jsme si, že odpovědi od účastníků s přístupem k modelu byly delší a zahrnovaly větší počet podrobností souvisejících s úkolem,“ napsali autoři studie.

Kromě toho byli studenti, kteří používali GPT-4, v některých úkolech téměř stejně zdatní jako skupina odborníků. Výzkumníci si také všimli, že GPT-4 přivedl odpovědi kohorty studentů na „expertní základní linii“ zejména u dvou úkolů: zvětšení a formulace. OpenAI bohužel neodhalí, co tyto úkoly obnášely, kvůli „obavám o ohrožení informací“.

K TÉMATU  Společnost Huawei upřednostnila AI před výrobou nejprodávanějšího telefonu

Podle agentury Bloomberg tým připravenosti také pracuje na studiích, které mají prozkoumat potenciál umělé inteligence pro hrozby kybernetické bezpečnosti a také její sílu měnit přesvědčení. Když byl tým loni na podzim spuštěn , OpenAI uvedlo, že jeho cílem je „sledovat, vyhodnocovat, předpovídat a chránit“ rizika technologie AI a také zmírňovat chemické, biologické a radiologické hrozby.

Může být výzkum věrohodný, když ho dělá OpenAI?

Vzhledem k tomu, že tým připravenosti OpenAI stále pracuje jménem OpenAI, je důležité brát jejich výzkum s rezervou. Zdá se, že závěry studie podceňují výhodu, kterou GPT-4 poskytl účastníkům oproti běžnému internetu, což je v rozporu s externím výzkumem i s jedním z vlastních prodejních bodů OpenAI pro GPT-4. Nový model umělé inteligence má nejen plný přístup k internetu, ale je také multimodálním modelem trénovaným na obrovském množství vědeckých a jiných dat, jejichž zdroj OpenAI nezveřejní. Vědci zjistili, že GPT-4 byl schopen poskytovat zpětnou vazbu k vědeckým rukopisům a dokonce sloužit jako spolupracovník ve vědeckém výzkumu. Sečteno a podtrženo, nezdá se pravděpodobné, že by GPT-4 poskytla účastníkům pouze okrajovou podporu.

Zatímco zakladatel OpenAI Sam Altman uznal, že AI má potenciál pro nebezpečí, zdá se, že jeho vlastní studie zlehčuje sílu jeho nejpokročilejšího chatbota. Zatímco zjištění uvádějí, že GPT-4 poskytla účastníkům „mírné zvýšení přesnosti a úplnosti“, zdá se, že to platí pouze tehdy, když jsou data určitým způsobem upravena. Studie měřila výkon studentů ve srovnání s odborníky a také se zabývala pěti různými „metrikami výsledků“, včetně doby potřebné k dokončení úkolu nebo kreativity řešení.

Autoři studie však později v poznámce pod čarou uvádějí, že celkově GPT-4 poskytla všem účastníkům „statisticky významnou“ výhodu v celkové přesnosti. „Ačkoli, pokud bychom hodnotili pouze celkovou přesnost, a tedy neupravovali pro vícenásobná srovnání, byl by tento rozdíl statisticky významný,“ poznamenali autoři.

K TÉMATU  Další hráč mezi vysokokapacitními optickými médii

MOHLO BY SE HODIT

ChatGPT nemusí brát ohledy na citlivé informace, čímž vyvolává obavy o soukromí

Zdroje článku:
sdílet
tisknout

Témata pro vás

Výběr článků

Uživatelé na Twitteru/X zjistili, že po šesti letech se při výběru emoji pistole nyní zobrazuje obrázek zbraně místo vodní pistole. Existence konkrétních emotikonů závisí spíše na konsorciu Unicode a jeho každoročních rozhodnutích než na konkrétních firmách, jako je Apple, Google nebo Twitter. Každá společnost si vytváří svůj vlastní grafický design a nyní to X prokázala tím, že jde proti průmyslově uznávaným standardům.
Spolu s novým laptopem VisionBook 14Wa s volným slotem pro 2,5palcový disk jsme se rozhodli otestovat jeho možnosti i pomocí SSD disku Transcend SSD230S. S kapacitou 512 GB zaplatíte sice jen o tisícovku méně než za notebook, přesto ale zkusme ilustrovat možný přínos pro slabší stroje.
Doplněno o fotky a postřehy: Vega 6 star obohatila flotilu produktů značky Niceboy nedávno jako poslední ze dvou. Kromě nativního 2K videa se snaží zaujmout schopnostmi běžného fotoaparátu v nastavení parametrů včetně aktivní stabilizace obrazu. Samozřejmě čekejte dostatek (možná až nadbytek) příslušenství v luxusním balení. Stačí to na přesvědčení zákazníků, aby kameru koupili?

Nepřehlédněte

V oblasti digitálních A/V propojení dochází pořád k dramatickému vývoji. Objevují se nové standardy, typu DisplayPort, ale také dochází k vývoji těch dosavadních. DVI-I, DVI-D, HDMI verze 1.2 a 1.3, různá kabeláž a konektory. Pokusíme se v tom udělat trochu jasno v následujícím přehledu.

Odebírat novinky

Přihlásit se

Jestě nemáte účet? Zaregistrujte se zde.

Nahlásit článek