Před více než rokem zveřejňujeme Zde v LXA článek o halucinacích Umělá inteligence. Jsou nebezpečím, pokud to chápeme jako ztrátu času nebo skutečnost, že nám mohou zůstat nepravdivé informace. Když se jich zeptáme na něco, co nemohou rychle získat z databáze, dokážou odpovědět na cokoli, a to se mi v roce 2025, do kterého už jsme dobře, moc nezlepšilo.
V poslední době se stala populární DeepSeek, umělá inteligence, která k nám přichází z Číny a která dokáže nabídnout výsledky podobné těm z ChatGPT nebo je dokonce vylepšit. Ale nejlepší z těchto AI získáme, pokud aktivujeme možnosti přemýšlet hlouběji, rozum nebo jak to nazvali v daném modelu. Jinak mají všichni tendenci selhat ve stejné věci: reagovat rychle bez ohledu na to, zda to, co říkají, je správné nebo ne.
Nové halucinace umělé inteligence
Čas od času strávím nějaký čas hraním Můj Steam Deck. Nedávno jsem dohrál základní hru Borderlands The Presequel a úplně jsem nepochopil konec (upozornění spoileru): Lilith praští Handsome Jacka... odkud se Lilith vzala? Zeptal jsem se ChatGPT a ani si nepamatuji, co mi řekl. Pokud si vzpomínám, vzpomněl jsem si, pardon za nadbytečnost, sám, že jsem pronásledoval našeho hráče pomocí jeho neviditelnosti. Pak jsem pokračoval, Pohledný Jack měl panty na obličeji a nemohl mi říct, že je to maska.
Nejhorší ale bylo, když jsem se ho zeptal, kam musím jít, abych si zahrál rozšíření Claptrap Voyage. Co tady vidíš, co tam vidíš, co… Při hledání na internetu jsem zjistil, že musím do patra 13/2 nebo tak nějak (už si nevzpomínám na jméno), něco, co můžeme udělat z rychlého výletu.
Abych měl pro tento článek více základů, přemýšlel jsem o tom, že se zeptám ChatGPT na totéž, ale s odůvodněním, něco, co jsem také udělal v DeepSeek. DeepSeek to vystihl hned na první pokus, zatímco ChatGPT mi dal dvě možnosti, jednu správnou a druhou popírající, že v The Presequel existuje rozšíření související s Claptrapem. Vybral jsem si tuto možnost, abych zjistil, zda to opraví… ale ne.
Chcete přesnost?
ChatGPT je právě teď nejpopulárnější a používá ho většina lidí. Chceme-li, aby to uvažovalo, musíme čelit dvěma problémům: prvním je, že trvá 20–40 sekund, než začne nabízet odpověď, a druhým je, že svobodné uvažování je možné jen několikrát denně; Při překročení limitu již nefungují a my jsme nuceni používat placený model. Kromě, DeepSeek Vždycky umí rozumnět, ale někdy se zasekne a nefunguje.
Takže buď zaplatíme, nebo počkáme, nebo budeme mít štěstí.
I tak jsou halucinace o umělé inteligenci stále na denním pořádku a myslím, že stojí za to si to připomenout, aby nikdo nemohl považovat informace, které nám poskytují, za samozřejmost.
Co když budeme hledat?
Co by mohlo být užitečné, je nenechat výchozí model reagovat na nás. On je ten, kdo nejvíce selhává, nejvíce „cuñao“, tedy ten, kdo nejvíce odpovídá kvůli odpovědi, zda odpověď zná nebo ne. Tyto modely dávají odpovědi na to, co se naučili, a pokud se to nenaučili, snaží se vyřešit naše pochybnosti vytvářením vztahů, které obvykle nedávají dobré výsledky. Věci se změní, když stiskneme tlačítka vyhledávání nebo uvažování.
Když ho požádáme, aby hledal, udělá to. Bude analyzovat, co najde, a ukáže nám výsledek, který bychom mohli vidět jako souhrn hledání, které bychom provedli. Možnost uvažovat vám zabrání říct první nesmysl, který vás napadne, i když někdy může ChatGPT věci zhoršit.
Umělá inteligence se stále zlepšuje, ale pokud ji nebudeme dobře využívat, bude nás také nadále více mást, než nám pomáhat.