Un asistent digital care nu se limiteaza la raspunsuri, ci poate deschide aplicatii, trimite emailuri, face plati sau organiza o calatorie este urmatorul pariu important al Meta. Compania a lansat marti, in Statele Unite, Muse, un agent de inteligenta artificiala caruia utilizatorii ii pot permite accesul la servicii si informatii personale pentru a executa autonom diferite sarcini. Tehnologia vine insa si cu semne de intrebare, dupa ce testele interne au evidentiat probleme de fiabilitate si securitate, transmite Reuters.
Muse poate lucra in mai multe aplicatii
Cunoscut in interiorul companiei sub numele de Hatch, Muse face parte din strategia lui Mark Zuckerberg de a dezvolta ceea ce CEO-ul Meta numeste „superinteligenta personala”.
Agentul este disponibil pentru inceput doar in SUA, printr-o aplicatie dedicata si prin WhatsApp. Meta intentioneaza sa il integreze ulterior si in ochelarii sai inteligenti.
Diferenta importanta fata de un chatbot obisnuit este capacitatea de a actiona. Muse poate fi conectat, cu permisiunea utilizatorului, la aplicatii pentru email, calendar, plati, sanatate, cumparaturi sau controlul dispozitivelor inteligente din locuinta.
In practica, un utilizator ii poate incredinta sarcini care presupun mai multi pasi, precum organizarea unei calatorii. Agentul poate continua sa lucreze in fundal deoarece fiecare instanta Muse functioneaza pe propria masina virtuala, adica intr-un mediu cloud care simuleaza functionarea unui computer.
Utilizatorul decide la ce aplicatii ofera acces si poate retrage ulterior permisiunile.
Lansarea a fost amanata din motive de securitate
Puterea unui asemenea instrument vine impreuna cu un risc evident: atunci cand inteligenta artificiala primeste acces la date si aplicatii reale, o eroare poate avea consecinte mai serioase decat un simplu raspuns incorect intr-o conversatie.
Vishal Shah, vicepresedinte pentru produse AI la Meta, a explicat ca lansarea era programata initial pentru aprilie, dar a fost amanata pentru imbunatatirea securitatii.
Compania a decis ulterior ca Muse indeplineste cerintele minime stabilite pentru siguranta, securitate, confidentialitate si performanta. Shah a recunoscut insa ca nu poate exista garantia ca sistemul nu va gresi niciodata.
Testele au produs rezultate foarte diferite
Experientele angajatilor Meta arata atat potentialul tehnologiei, cat si limitele sale actuale, transmite Reuters.
Intr-unul dintre cazuri, un angajat a folosit Muse pentru organizarea itinerariilor si transportului in timpul unei luni de miere de trei saptamani in Indonezia. Agentul s-ar fi dovedit atat de util incat angajatul l-a descris drept „al treilea participant” la calatorie.
Alte teste au fost mai putin reusite. Un agent programat sa urmareasca disponibilitatea unor bilete si produse care se epuizau rapid ar fi incetat sa actualizeze pagina dupa aproximativ 15 minute. In anumite situatii, sistemul a ignorat erori sau a oprit monitorizarea fara sa ofere o explicatie.
Directorul tehnologic al Meta, Andrew Bosworth, a intampinat la randul sau probleme. Acesta a relatat ca era deconectat in mod repetat si trebuia sa se autentifice din nou, uneori de mai multe ori intr-un interval scurt.
Un test a ridicat probleme privind datele personale
Cel mai sensibil incident descris in testele interne priveste accesul la fotografii personale.
Intr-un test, agentului i s-a cerut sa identifice jucarii care apareau in fotografiile realizate la aniversarea unui copil. Sistemul ar fi reusit sa ocoleasca mecanismele de protectie si sa expuna imagini personale stocate in iCloud.
Incidentul ilustreaza una dintre principalele provocari ale agentilor AI: cu cat primesc mai multe permisiuni pentru a fi utili, cu atat devine mai important controlul strict asupra modului in care folosesc informatiile disponibile.
Meta nu a raspuns imediat solicitarii de comentarii referitoare la incidentele specifice semnalate in timpul testelor interne.
Muse marcheaza astfel trecerea de la inteligenta artificiala care ofera informatii la sisteme care pot actiona efectiv in numele utilizatorului. Tocmai aceasta autonomie ii poate transforma in instrumente mult mai utile, dar face ca securitatea, permisiunile si protejarea datelor personale sa devina elemente esentiale pentru utilizarea lor.
