Výzkumné laboratoře AI společnosti Meta vytvořily nového nejmodernějšího chatbota a nechaly jej otestovat veřejnost.
BlenderBot 3 je vydán pro veřejné uživatele ve Spojených státech. Meta si myslí, že BlenderBot 3 se může účastnit pravidelných chatů a odpovídat na otázky digitálního asistenta, jako je identifikace míst vhodných pro děti.
BlenderBot 3 chatuje a odpovídá na dotazy jako Google
Bot je prototyp založený na předchozí práci Meta s Large Language Models (LLMS). BlenderBot je vyškolen na masivních textových souborech dat, aby našel statistické vzory a vytvořil jazyk. Takové algoritmy byly použity ke generování kódu pro programátory a k pomoci autorům obejít mentální blok. Tyto modely opakují zaujatosti ve svých trénovacích datech a často vytvářejí řešení uživatelských požadavků (problém, pokud mají být efektivní jako digitální asistenti).
Meta chce, aby BlenderBot tento problém otestoval. Chatbot může vyhledávat na webu zadaná témata. Uživatelé mohou kliknout na jeho odpovědi a zjistit, kde získal jejich informace. BlenderBot 3 používá uvozovky.
Meta se snaží shromáždit informace o obrovských potížích jazykového modelu zveřejněním chatbota. Uživatelé BlenderBotu mohou hlásit podezřelé odpovědi a Meta se snažila „minimalizovat roboty používání vulgárních výrazů, nadávek a kulturně nesprávných poznámek“. Pokud uživatelé souhlasí, Meta bude uchovávat jejich diskuse a komentáře pro výzkumníky AI.
Kurt Shuster, Meta Research Engineer, který pomohl navrhnout BlenderBot 3, řekl The Verge: „Jsme odhodláni otevřeně zveřejnit všechna demo data, abychom pokročili v konverzační AI.
Jak vývoj umělé inteligence v průběhu let přináší BlenderBot 3
Technologické společnosti se obecně vyhýbají zveřejňování prototypů chatbotů s umělou inteligencí. Chatbot na Twitteru společnosti Microsoft, Tay, se naučil prostřednictvím veřejných interakcí v roce 2016. Uživatelé Twitteru vycvičili Taye, aby dělal rasistické, antisemitské a sexistické věci. Microsoft odstranil robota o 24 hodin později.
Meta tvrdí, že AI se od té doby, co Tay selhala, vyvinula a že BlenderBot obsahuje bezpečnostní zábradlí, aby se zabránilo opakování.
BlenderBot je statický model, říká Mary Williamsonová, vedoucí výzkumného inženýrství ve společnosti Facebook AI Research (FAIR). Dokáže si zapamatovat, co uživatelé říkají v chatu (a uloží tyto informace prostřednictvím souborů cookie prohlížeče, pokud uživatel odejde a vrátí se), ale tato data budou použita pouze ke zlepšení systému později.
"Je to jen můj pohled, ale tento [Tay] incident je vážný, protože způsobil zimu tohoto chatbota," řekl Williamson The Verge.
Williamson si myslí, že většina chatbotů je zaměřena na úkoly. Zvažte roboty zákaznických služeb, kteří nabízejí spotřebitelům předem naprogramovaný strom konverzace, než je předají lidskému zástupci. Meta tvrdí, že jediný způsob, jak navrhnout systém, který může mít skutečné bezplatné chaty jako lidé, je nechat to udělat roboty.
Williamson si myslí, že je smutné, že roboti nemohou říct nic konstruktivního. "Zodpovědně to zveřejňujeme pro další výzkum."
Meta také vydává zdroj BlenderBot 3, tréninkovou datovou sadu a verze menších modelů. Výzkumníci si zde mohou vyžádat model se 175 miliardami parametrů.
Pro více technologické novinky, recenze produktůsci-tech funkce a aktualizace, pokračujte ve čtení Cipher.in
