OpenAI konečně pracuje na nastavení ChatGPT, aby vytvořil lepší interakční program eliminující jakékoli halucinace AI. Pokud jste nikdy neslyšeli o halucinacích AI a používali jste ChatGPT, možná jste to už někdy zažili. Pojďme si to vysvětlit.
Stalo se někdy, že když používáte ChatGPT nebo jakéhokoli chatbota AI, systém prostě začne chatovat s jakoukoli informací a obsahem namísto vložené výzvy. No, tento jev se nazývá halucinace AI vykreslující dezinformace.
Čtěte také: Nová aplikace pro chytré telefony využívá AI k detekci padělaných produktů: Zde je návod, jak Alitheon funguje
Ve snaze tyto výstupy změnit a omezit, OpenAI konečně přišlo s řešením a funkce se jmenuje Process Monitoring. Může dojít k záměně mezi funkcemi dohledu nad procesem a dohledem nad výsledkem, kde je systém odměňován za konečné uzavření úkolu. V prvním případě, což je novinka, je však systém odměňován v každé fázi úkolu.
OpenAI v oficiálním příspěvku na blogu zveřejnila matematické příklady, které vedly k lepší přesnosti obecně, nicméně společnost naznačuje, že nemůže komentovat, jak bude funkce monitorování procesů fungovat v oblasti matematiky.
OpenAI již zmínila a napravila nedostatky softwaru a varovala uživatele s tím, že ChatGPT může být nepřesný ve zveřejněných informacích.
„Dokonce i přední modelky jsou náchylné k produkování nepravd – mají tendenci vymýšlet si fakta v době nejistoty. Tyto halucinace jsou zvláště problematické v oblastech, které vyžadují vícestupňové uvažování, protože jediná logická chyba stačí k vykolejení mnohem většího řešení. Detekce a zmírnění halucinací je klíčem ke zlepšení rozumových schopností.
Přečtěte si také: IIT-AIIMS vyvíjí aplikace AI pro zlepšení zdravotní péče v Indii: Zde je návod
S tímto úsilím, aby uživatelská zkušenost byla hladší a bezproblémová, se OpenAI zaměřuje na vybudování technologie, která dokáže odrážet reakce založené na lidských interakcích a strukturovat systém tak, aby porozuměl lidem a odpovídajícím způsobem reagoval.
Někteří odborníci stále naznačují, že software potřebuje větší přesnost a transparentnost, zatímco prosazují softwarovou regulaci.
