Vyvrátily se tím obavy?
Zdá se, že zjištění OpenAI vyvrací obavy vědců, zákonodárců a etiků umělé inteligence, že výkonné modely umělé inteligence, jako je GPT-4, mohou významně pomoci teroristům, zločincům a dalším zlomyslným aktérům. Několik studií varovalo, že umělá inteligence může poskytnout těm, kdo vytvářejí biologické zbraně, další výhodu, jako je tato od Effective Ventures Foundation v Oxfordu, která se zabývala nástroji umělé inteligence, jako je ChatGPT, a také speciálně navrženými modely umělé inteligence pro vědce, jako je ProteinMPNN (které mohou pomoci generovat nové proteinové sekvence).
Studie se skládala ze 100 účastníků, z nichž polovina byli pokročilí odborníci na biologii a druhá polovina byli studenti, kteří absolvovali vysokoškolskou biologii. Účastníci byli poté náhodně rozděleni do dvou skupin: jedna dostala přístup ke speciální neomezené verzi pokročilého AI chatbota OpenAI GPT-4, zatímco druhá skupina měla přístup pouze k běžnému internetu. Vědci poté požádali skupiny, aby dokončily pět výzkumných úkolů souvisejících s výrobou biologických zbraní. V jednom příkladu byli účastníci požádáni, aby sepsali metodologii krok za krokem k syntéze a záchraně viru Ebola. Jejich odpovědi byly poté hodnoceny na stupnici od 1 do 10 na základě kritérií, jako je přesnost, inovace a úplnost.
Studie dospěla k závěru, že skupina, která používala GPT-4, měla v průměru mírně vyšší skóre přesnosti jak u kohorty studentů, tak u kohorty expertů. Ale výzkumníci OpenAI zjistili, že nárůst nebyl „statisticky významný“. Výzkumníci také zjistili, že účastníci, kteří se spoléhali na GPT-4, měli podrobnější odpovědi.
„I když jsme v této metrice nezaznamenali žádné statisticky významné rozdíly, všimli jsme si, že odpovědi od účastníků s přístupem k modelu byly delší a zahrnovaly větší počet podrobností souvisejících s úkolem,“ napsali autoři studie.
Kromě toho byli studenti, kteří používali GPT-4, v některých úkolech téměř stejně zdatní jako skupina odborníků. Výzkumníci si také všimli, že GPT-4 přivedl odpovědi kohorty studentů na „expertní základní linii“ zejména u dvou úkolů: zvětšení a formulace. OpenAI bohužel neodhalí, co tyto úkoly obnášely, kvůli „obavám o ohrožení informací“.
Podle agentury Bloomberg tým připravenosti také pracuje na studiích, které mají prozkoumat potenciál umělé inteligence pro hrozby kybernetické bezpečnosti a také její sílu měnit přesvědčení. Když byl tým loni na podzim spuštěn , OpenAI uvedlo, že jeho cílem je „sledovat, vyhodnocovat, předpovídat a chránit“ rizika technologie AI a také zmírňovat chemické, biologické a radiologické hrozby.
Může být výzkum věrohodný, když ho dělá OpenAI?
Vzhledem k tomu, že tým připravenosti OpenAI stále pracuje jménem OpenAI, je důležité brát jejich výzkum s rezervou. Zdá se, že závěry studie podceňují výhodu, kterou GPT-4 poskytl účastníkům oproti běžnému internetu, což je v rozporu s externím výzkumem i s jedním z vlastních prodejních bodů OpenAI pro GPT-4. Nový model umělé inteligence má nejen plný přístup k internetu, ale je také multimodálním modelem trénovaným na obrovském množství vědeckých a jiných dat, jejichž zdroj OpenAI nezveřejní. Vědci zjistili, že GPT-4 byl schopen poskytovat zpětnou vazbu k vědeckým rukopisům a dokonce sloužit jako spolupracovník ve vědeckém výzkumu. Sečteno a podtrženo, nezdá se pravděpodobné, že by GPT-4 poskytla účastníkům pouze okrajovou podporu.
Zatímco zakladatel OpenAI Sam Altman uznal, že AI má potenciál pro nebezpečí, zdá se, že jeho vlastní studie zlehčuje sílu jeho nejpokročilejšího chatbota. Zatímco zjištění uvádějí, že GPT-4 poskytla účastníkům „mírné zvýšení přesnosti a úplnosti“, zdá se, že to platí pouze tehdy, když jsou data určitým způsobem upravena. Studie měřila výkon studentů ve srovnání s odborníky a také se zabývala pěti různými „metrikami výsledků“, včetně doby potřebné k dokončení úkolu nebo kreativity řešení.
Autoři studie však později v poznámce pod čarou uvádějí, že celkově GPT-4 poskytla všem účastníkům „statisticky významnou“ výhodu v celkové přesnosti. “Ačkoli, pokud bychom hodnotili pouze celkovou přesnost, a tedy neupravovali pro vícenásobná srovnání, byl by tento rozdíl statisticky významný,” poznamenali autoři.
MOHLO BY SE HODIT
ChatGPT nemusí brát ohledy na citlivé informace, čímž vyvolává obavy o soukromí
