AI-chatbot Claude iz start-upa Anthropic dobio je ažuriranje koje mu omogućuje obradu 100.000 “tokena” konteksta u jednom razgovoru, što je otprilike ekvivalentno 75.000 riječi. Bot bi tako mogao “pročitati” cijelu knjigu u manje od jedne minute, tvrdi start-up.
Prije toga, bot je imao ograničenje od 9000 tokena. U usporedbi s tim, standardni model GPT-4 tvrtke OpenAI trenutno također ima ograničenje konteksta od 9000 tokena, dok najveća verzija ima ograničenje od 32.000 tokena. Anthropic je testirao povećanje dodavanjem cijelog teksta romana “Veliki Gatsby” kao privitak, s jednom prilagođenom rečenicom. Zatim je zatraženo da se identificira koja je rečenica prilagođena. Bot je prilagodbu pronašao u roku od 22 sekunde, tvrdi start-up.
Prema tvrtki Anthropic, tvrtke sada mogu analizirati stotine stranica materijala pomoću Claudea. Prema start-upu, to se može koristiti, primjerice, za sažimanje oko šest sati transkribiranog zvučnog zapisa ili procjenu prednosti i nedostataka određenog zakonodavnog dokumenta. Također, razgovori mogu trajati satima ili čak danima bez dosezanja ograničenja konteksta. Nova verzija chatbota trenutno je dostupna samo poslovnim partnerima Anthropica putem API-ja.
Ranije je matična tvrtka Googlea, Alphabet, uložila 300 milijuna dolara u start-up, ali nije objavljeno razlog iza te investicije. Start-up je izjavio da planira surađivati s Google Cloudom za izvođenje svojih umjetno-inteligentnih sustava.