Obnova Alexa: Kako Amazon miješa modele, agente i upotrebu preglednika za pametnije AI

Amazon je klađenje na interoperabilnost agensa i miješanje modela kako bi svoj novi Alexa glasovni asistent bio učinkovitiji, preuređujući svog vodećeg glasovnog asistenta s agencijskim mogućnostima i zadacima upotrebe preglednika.

Ova nova Alexa rebrandirana je u Alexa+, a Amazon naglašava da ova verzija “čini više”. Na primjer, sada može proaktivno reći korisnicima je li dostupna nova knjiga njihovog omiljenog autora ili da je njihov omiljeni umjetnik u gradu – pa čak i ponuditi da kupi kartu. Alexa+ razlozi kroz upute i dodiruju „stručnjake“ u različitim bazama znanja kako bi odgovorili na korisnička pitanja i dovršili zadatke poput „Gdje je najbliže mjesto za pizzu u uredu? Hoće li se moji suradnici svidjeti? – Rezervirajte ako mislite da hoće. ”

Drugim riječima, Alexa+ kombinira AI agente, mogućnosti upotrebe računala i znanje koje uči iz većeg Amazon ekosustava kao što je Amazon nada da je sposobniji i pametniji pomoćnik kućnog glasa.

Alexa+ trenutno radi na Amazonovim Nova modelima i modelima iz Antropski. Međutim, Daniel Rausch, Amazonov potpredsjednik Alexa i Echo, rekao je za VentureBeat da će uređaj ostati “model agnostik” i da bi tvrtka mogla uvesti druge modele (barem modele dostupne na Amazon Bedrocku) kako bi pronašli najbolji za obavljanje zadataka.

“[It’s about] Odabir pravih integracija za dovršavanje zadatka, smišljanje prave vrste uputa, što je potrebno za dovršavanje zadatka, a zatim orkestriranje cijele stvari “, rekao je Rausch. “Velika stvar koju treba razumjeti je da će se Alexa nastaviti razvijati s najboljim modelima dostupnim bilo gdje na Bedrocku.”

Što je miješanje modela?

Miješanje modela ili usmjeravanje modela omogućava poduzećima i drugim korisnicima da odaberu odgovarajući AI model kako bi dodirnuli upita. Programeri se sve više okreću modelu miješanja kako bi smanjili troškove. Uostalom, na svaki upit nije potrebno odgovoriti modelom obrazloženja; Neki modeli bolje izvršavaju određene zadatke.

Amazonova jedinica Cloud i AI, Awsdugo je bio zagovornik miješanja modela. Nedavno je najavio značajku na Bedrocku pod nazivom Intelligent Crtati Routing, koja upućuje upute na najbolji model i veličinu modela za rješavanje upita.

I, to bi moglo raditi. “Mogu vam reći da ne mogu reći za bilo koji odgovor Alexa o bilo kojem zadatku koji model koristi”, rekao je Rausch.

Agentna interoperabilnost i orkestracija

Rausch je rekao da Alexa+ okuplja agente na tri različita načina. Prvi je tradicionalni API; Drugi su agensi za razmještanje koji mogu kretati se web stranicama i aplikacijama poput Anthropic -ovog računalnog korištenja; Treći je povezivanje agenata s drugim agentima.

“Ali u središtu svega, orkestriranje svih onih različitih vrsta iskustava su ove osnovne, vrlo sposobne, vrhunske LLM-ove”, rekao je Rausch.

Dodao je da ako aplikacija treće strane već ima svog agenta, taj agent još uvijek može razgovarati s agentima koji rade unutar Alexa+, čak i ako je vanjski agent izgrađen pomoću drugog modela.

Rausch je naglasio da je Alexa tim koristio Bedrock-ove alate i tehnologiju, uključujući nove alate za orkestraciju s više agenata.

Antropski CPO Mike Krieger rekao je za VentureBeat da čak i ranije verzije Clauda neće moći ostvariti ono što Alexa+ želi.

“Stvarno zanimljivo” Zašto sada? ” Trenutak je očit u demonstraciji, jer su, naravno, modeli postali bolji “, rekao je Krieger. “Ali ako ste to pokušali učiniti s 3,0 soneta ili našim modelima na 3.0 razine, mislim da biste se borili na puno načina da se odjednom koristite puno različitih alata.”

Iako ni Rausch ni Krieger ne bi potvrdili koji je specifični antropski model Amazon koristio za izgradnju Alexa+, vrijedno je istaknuti da je anthropic u ponedjeljak objavio Claude 3.7 sonet, a dostupan je na Bedrocku.

Velika ulaganja u AI

Prvi četkica mnogih korisnika s AI došla je preko AI Voice Assistants poput Alexa, Google Home ili čak Appleova Siri. Oni su puštali ljude da daju neke zadatke, poput uključivanja svjetla. Ne posjedujem uređaj Alexa ili Google Home, ali saznao sam koliko je prikladno imati jedan od boravka u hotelu u posljednje vrijeme. Mogao bih reći Alexa da zaustavi alarm, uključi svjetla i otvori zavjesu dok je još uvijek ispod poklopca.

No, dok su Alexa, Google Home uređaji i Siri postali sveprisutni u životu ljudi, počeli su pokazivati ​​svoju dob kada je generativni AI postao popularan. Odjednom su ljudi željeli više odgovora u stvarnom vremenu od AI pomoćnika i zatražili pametnije rezolucije zadataka, poput dodavanja više sastanaka kalendarima bez potrebe za mnogo poticanja.

Amazon je priznao da je porast gena AI, posebno agenata, omogućio Alexa da konačno ispuni svoj potencijal.

“Do ovog trenutka, tehnologija nas je ograničila u onome što bi Alexa mogla biti”, rekao je Panos Panay, Amazonovi uređaji i Services SVP, tijekom demonstracije.

Rausch je rekao da se nada da se Alexa+ nastavlja poboljšati, dodavati nove modele i nadamo se da će više ljudi ugodno učiniti ono što tehnologija može učiniti.