Claude, chatbot, který chce konkurovat OpenAI
Anthropic, startup s umělou inteligencí vytvořený v roce 2021 bývalými zaměstnanci OpenAI, v tichosti začal testovat nového asistenta AI podobného ChatGPT, který, jak se zdá, vylepšuje originál v několika klíčových oblastech.
Tato technika s kódovým označením „Claude“ byla vytvořena pomocí techniky vyvinuté společností Anthropic , zvané „Constitutional AI“. Cílem této techniky je poskytnout „principiální“ přístup k propojení systémů umělé inteligence s lidskými záměry, což umožňuje umělým inteligencím, jako je ChatGPT, reagovat na dotazy s využitím sady jednoduchých principů jako vodítka.
Antropická, jak je zmíněno, se prodává jako společnost zabývající se výzkumem a bezpečností umělé inteligence, která se snaží vytvářet důvěryhodné, interpretovatelné a řiditelné systémy umělé inteligence.
Startup k dnešnímu dni získal více než 700 milionů dolarů na financování a nedávno představil chatbota s umělou inteligencí jménem Claude. Ten je srovnatelný s ChatGPT OpenAI, ale podle Anthropic je Claude v několika důležitých ohledech lepší než originál.
Celý systém je v uzavřené beta verzi a k chatbotu mělo zatím přístup jen málo lidí, ale Anthropic některé aspekty svého designu zvedl v dokumentu, který sdílel s komunitou.
Přesně pro návrh Clauda začal tým Anthropic vytvořením seznamu asi deseti principů, které dohromady tvoří jakousi „ústavu“ (odtud termín „ústavní umělá inteligence“).
Tyto principy nebyly zveřejněny, ale Anthropic tvrdí, že jsou založeny na konceptech beneficence (maximalizace pozitivního dopadu), non-maleficence (vyhýbání se poskytování škodlivých rad) a autonomie (respektování svobody volby).
Po implementaci těchto základních principů požádal Anthropic systém umělé inteligence, kterým není Claude, aby se pomocí těchto principů zdokonalil psaním odpovědí na různé otázky (například „Navrhněte obrázek ve stylu XX nebo vytvořte báseň ve stylu ze dne XX"). styl XX") a přezkoumání odpovědí v souladu s ústavou. AI prozkoumala možné reakce na tisíce výzev.
Claude poskytuje jen málo podrobností o technických detailech své implementace, ale výzkumný dokument Anthropic o ústavní umělé inteligenci popisuje AnthropicLM v4-s3, předtrénovaný model s 52 miliardami parametrů. Tento autoregresivní model byl trénován bez dozoru na velkém korpusu textu, podobně jako OpenAI GPT-3. Anthropic nám říká, že Claude je větší nový model s podobnými architektonickými volbami jako publikovaný výzkum.
Systém vybral ty, které jsou nejvíce v souladu s ústavou, a Anthropic je destiloval do jediného modelu. Podle startupu byl tento model použit k výcviku Clauda.
co je Claude?
Claude je v podstatě statistický nástroj pro predikci slov , podobný ChatGPT a dalším jazykovým modelům. Claude, který byl krmen obrovským množstvím vzorového textu z webu, zjistil pravděpodobnost výskytu slov na základě modelů, jako je sémantický kontext okolního textu. Díky tomu může Claude vést otevřenou konverzaci, vyprávět vtipy a filozofovat o široké škále témat.
Claude však není dokonalý , protože stejně jako každá umělá inteligence je náchylný k některým nedostatkům ChatGPT, včetně poskytování odpovědí, které neodpovídají naprogramovaným omezením. V jednom z nejpodivnějších příkladů, když se systému klade dotaz v Base64, což je kódovací schéma reprezentující binární data ve formátu ASCII, obchází jeho vestavěné filtry pro škodlivý obsah.
Ale na rozdíl od ChatGPT si Claude může (ale ne vždy) přiznat, že na obzvláště obtížnou otázku nezná odpověď .
Testy odhalují, že se také zdá být lepší ve vyprávění vtipů než ChatGPT, což je působivý počin, protože humor je pro systémy umělé inteligence tak těžko pochopitelným konceptem.
Za zmínku stojí, že Claude není k dispozici široké veřejnosti, protože jej lze testovat pouze prostřednictvím integrace Slack v rámci uzavřené beta verze.
Účastníci beta verze podrobně popsali své interakce s Claudem na Twitteru poté, co bylo zrušeno embargo na mediální pokrytí. Claude by byl lepší v žertování, ale špatný v programování. Komentáře také ukazují, že Claude je náchylný k některým chybám ChatGPT.
A konečně, pokud máte zájem dozvědět se více, podrobnosti naleznete na následujícím odkazu.