Exista o cursa in desfasurare pentru a construi inteligenta generala artificiala, o viziune futurista a masinilor care sunt la fel de inteligente ca oamenii sau cel putin pot face multe lucruri la fel de bine ca oamenii. Realizarea unui astfel de concept – denumit in mod obisnuit AGI – este misiunea de conducere a producatorului ChatGPT OpenAI si o prioritate pentru aripile de cercetare de elita ale gigantilor tehnologici Amazon, Google, Meta si Microsoft.
Este, de asemenea, un motiv de ingrijorare pentru guvernele lumii. Oameni de stiinta AI de frunte au publicat o cercetare, avertizand ca agentii AI necontrolati cu abilitati de „planificare pe termen lung” ar putea reprezenta un risc existential pentru umanitate.
Dar ce este exact AGI si cum vom sti cand a fost atins? Candva la marginea informaticii, acum este un cuvant la moda care este redefinit in mod constant de catre cei care incearca sa-l realizeze.
Ce este AGI?
A nu se confunda cu IA generativa care suna similar – care descrie sistemele AI din spatele multitudinii de instrumente care „genereaza” noi documente, imagini si sunete – inteligenta generala artificiala este o idee mai nebuloasa.
Nu este un termen tehnic, ci „un concept serios, desi prost definit”, a spus Geoffrey Hinton, un om de stiinta de pionier, care a fost supranumit „Nasul AI”.
„Nu cred ca exista un acord cu privire la ceea ce inseamna termenul”, a spus Hinton prin e-mail in aceasta saptamana. „Il folosesc pentru a insemna IA care este cel putin la fel de buna ca oamenii in aproape toate lucrurile cognitive pe care le fac oamenii.”
Hinton prefera un alt termen – superinteligenta – „pentru AGI-uri care sunt mai bune decat oamenii”.
Un grup mic de primii sustinatori ai termenului AGI cautau sa evoce modul in care oamenii de stiinta in domeniul informaticii de la mijlocul secolului al XX-lea au imaginat o masina inteligenta. Asta s-a intamplat inainte ca cercetarea AI sa se ramifice in subdomenii care au avansat versiuni specializate si viabile comercial ale tehnologiei – de la recunoasterea fetei la asistenti vocali de recunoastere a vorbirii precum Siri si Alexa.
Cercetarea mainstream AI „s-a indepartat de viziunea originala a inteligentei artificiale, care la inceput a fost destul de ambitioasa”, a spus Pei Wang, un profesor care preda un curs AGI la Universitatea Temple si a ajutat la organizarea primei conferinte AGI in 2008.
Punerea „G” in AGI a fost un semnal pentru cei care „inca vor sa faca lucrul cel mare. Nu vrem sa construim unelte. Vrem sa construim o masina de gandire”, a spus Wang.
Suntem inca la AGI?
Fara o definitie clara, este greu de stiut cand o companie sau un grup de cercetatori va fi atins inteligenta generala artificiala – sau daca au facut-o deja.
„Cu douazeci de ani in urma, cred ca oamenii ar fi fost fericiti de acord ca sistemele cu capacitatea GPT-4 sau Gemeni (de la Google) au atins o inteligenta generala comparabila cu cea a oamenilor”, a spus Hinton. „A fi capabil sa raspund mai mult sau mai putin la orice intrebare intr-un mod sensibil ar fi trecut testul. Dar acum ca AI poate face asta, oamenii vor sa schimbe testul.”
Imbunatatirile in tehnicile AI „autoregresive” care prezic cel mai plauzibil cuvant urmator dintr-o secventa, combinate cu puterea de calcul masiva pentru a antrena acele sisteme pe grozave de date, au condus la chatbot-uri impresionante, dar inca nu sunt chiar AGI pe care multi oameni. avut in vedere. A ajunge la AGI necesita tehnologie care poate functiona la fel de bine ca oamenii intr-o mare varietate de sarcini, inclusiv rationament, planificare si capacitatea de a invata din experiente.
Unii cercetatori ar dori sa gaseasca un consens cu privire la modul de masurare. Este unul dintre subiectele unui viitor workshop AGI luna viitoare la Viena, Austria – primul la o conferinta majora de cercetare AI.
„Acest lucru necesita intr-adevar efortul si atentia unei comunitati, astfel incat sa putem conveni reciproc asupra unui fel de clasificari ale AGI”, a spus organizatorul atelierului Jiaxuan You, profesor asistent la Universitatea din Illinois Urbana-Champaign. O idee este sa-l segmentam pe niveluri, in acelasi mod in care producatorii de masini incearca sa evalueze calea dintre controlul vitezei de croaziera si vehiculele complet autonome.
Altii planuiesc sa-si dea seama singuri. Compania OpenAI din San Francisco a dat consiliului sau de administratie nonprofit – ai carui membri includ un fost secretar al Trezoreriei SUA – responsabilitatea de a decide cand sistemele sale de inteligenta artificiala au ajuns la punctul in care „depasesc oamenii la cel mai mult lucru valoros din punct de vedere economic”.
„Consiliul de administratie stabileste cand am atins AGI”, spune propria explicatie a OpenAI despre structura sa de guvernare. O astfel de realizare ar taia cel mai mare partener al companiei, Microsoft, de la drepturile de a comercializa un astfel de sistem, deoarece termenii acordurilor lor „se aplica doar tehnologiei pre-AGI”.
Este AGI periculos?
Hinton a facut titluri la nivel mondial anul trecut cand a parasit Google si a lansat un avertisment cu privire la pericolele existentiale ale inteligentei artificiale. Un nou studiu Science publicat joi ar putea intari aceste preocupari.
Autorul sau principal este Michael Cohen, de la Universitatea din California, Berkeley, cercetator care studiaza „comportamentul asteptat al agentilor artificiali inteligenti in general”, in special al celor suficient de competenti pentru a „prezenta o amenintare reala pentru noi prin planificarea noastra”.
Cohen a spus clar intr-un interviu de joi ca astfel de agenti de planificare AI pe termen lung nu exista inca. Dar „au potentialul” de a deveni mai avansati, deoarece companiile tehnologice incearca sa combine tehnologia chatbot de astazi cu abilitati de planificare mai deliberate, folosind o tehnica cunoscuta sub numele de invatare prin consolidare.
„Oferirea unui sistem AI avansat de obiectiv de a-si maximiza recompensa si, la un moment dat, retinerea recompensei de la acesta, stimuleaza puternic sistemul AI sa scoata oamenii din bucla, daca are ocazia”, potrivit lucrarii a carei co- autorii includ proeminenti oameni de stiinta in domeniul inteligentei artificiale Yoshua Bengio si Stuart Russell si profesor de drept si fost consilier OpenAI Gillian Hadfield.
„Sper ca am sustinut ca oamenii din guvern (trebuie) sa inceapa sa se gandeasca serios la exact ce reglementari avem nevoie pentru a aborda aceasta problema”, a spus Cohen. Deocamdata, „guvernele stiu doar ceea ce aceste companii decid sa le spuna”.
Prea legitim pentru a parasi AGI?
Cu atat de multi bani care se incadreaza pe promisiunea progreselor AI, nu este surprinzator ca AGI devine si un cuvant de interes corporativ care atrage uneori o fervoare cvasi-religioasa.
O parte din lumea tehnologiei este impartita intre cei care sustin ca ar trebui dezvoltata incet si cu atentie si altii – inclusiv capitalistii de risc si rapperul MC Hammer – care s-au declarat parte dintr-o tabara „accelerationista”.
Startup-ul DeepMind din Londra, fondat in 2010 si acum parte a Google, a fost una dintre primele companii care si-a propus in mod explicit sa dezvolte AGI. OpenAI a facut acelasi lucru in 2015, cu un angajament centrat pe siguranta.
Dar acum s-ar putea parea ca toti ceilalti se arunca in vagon. Cofondatorul Google, Sergey Brin, a fost vazut recent petrecand intr-un loc din California numit AGI House. Si la mai putin de trei ani dupa ce si-a schimbat numele din Facebook pentru a se concentra pe lumi virtuale, Meta Platforms a dezvaluit in ianuarie ca si AGI era in fruntea agendei sale.
CEO-ul Meta, Mark Zuckerberg, a spus ca obiectivul pe termen lung al companiei sale este „construirea unei inteligente generale complete”, care ar necesita progrese in rationament, planificare, codificare si alte abilitati cognitive. In timp ce compania lui Zuckerberg a avut de mult cercetatori concentrati asupra acestor subiecte, atentia lui a marcat o schimbare de ton.
La Amazon, un semn al noii mesaje a fost atunci cand seful de stiinta pentru asistentul vocal Alexa a schimbat functiile pentru a deveni sef de stiinta pentru AGI.
Desi nu este la fel de tangibila pentru Wall Street precum IA generativa, difuzarea ambitiilor AGI poate ajuta la recrutarea de talente AI care au de ales unde doresc sa lucreze.
Pentru a decide intre un „institut AI de scoala veche” sau unul al carui „obiectiv este de a construi AGI” si are resurse suficiente pentru a face acest lucru, multi ar alege pe cel din urma, a spus You, cercetatorul de la Universitatea din Illinois.
