Cercetătorii de la OpenAI au avertizat consiliul de administrație cu privire la o descoperire în domeniul inteligenței artificiale înainte de demiterea lui Sam Altman, potrivit unui raport exclusiv al Reuters. Ce este „Q*” care pentru prima dată este capabil să rezolve cu ușurință probleme de matematică
Înainte de ” excluderea” de patru zile a directorului general al OpenAI, Sam Altman, mai mulți cercetători au scris o scrisoare către consiliul de administrație în care avertizau asupra unei descoperiri majore în domeniul inteligenței artificiale care ar putea amenința omenirea, au declarat pentru Reuters cel puțin două persoane care au cunoștință despre acest subiect.
Scrisoarea și algoritmul de inteligență artificială despre care nu s-a raportat anterior sunt evoluții cheie înainte de înlăturarea din consiliul de administrație a lui Sam Altman, omul care a stat la baza saltului înainte în domeniul inteligenței artificiale genetice, au declarat sursele. Înainte de revenirea triumfală a acestuia, marți târziu (21.11), peste 700 de angajați au amenințat că vor demisiona și se vor alătura partenerului Microsoft, în semn de solidaritate cu liderul lor concediat.
Sursele au citat scrisoarea ca fiind un factor dintr-o listă mai lungă de plângeri din partea consiliului de administrație care a dus la demiterea lui Altman, inclusiv preocupări legate de comercializarea progreselor din industria inteligenței artificiale înainte de a fi cunoscute consecințele. Reuters nu a putut examina o copie a scrisorii, iar personalul care a redactat-o nu a răspuns la solicitările de comentarii.
După ce a fost contactat de Reuters, OpenAI, care a refuzat să comenteze, a recunoscut într-un mesaj intern adresat personalului un proiect numit „Q*” și o scrisoare adresată consiliului de administrație înainte de evenimentele din weekend, a declarat una dintre persoane. Un purtător de cuvânt al OpenAI a declarat că mesajul, trimis de Mira Murati, director de lungă durată, a avertizat personalul cu privire la anumite știri din presă, fără a comenta acuratețea acestora.
Unele persoane de la OpenAI cred că „Q*” ar putea fi o descoperire în demersul startup-ului pentru ceea ce este cunoscut sub numele de inteligență generală artificială (AGI), a declarat o sursă pentru Reuters. OpenAI definește AGI ca fiind sisteme autonome care depășesc performanța oamenilor în majoritatea sarcinilor valoroase din punct de vedere economic.
Având în vedere resursele vaste de calcul, noul model a fost capabil să rezolve anumite probleme matematice, a declarat persoana respectivă sub rezerva anonimatului, deoarece nu a fost autorizată să vorbească în numele companiei. Deși a realizat doar performanțe matematice la nivelul elevilor de școală primară, aceste teste i-au făcut pe cercetători să fie foarte optimiști în ceea ce privește viitorul succes al „Q*”, a mai spus sursa citată. Reuters nu a putut verifica în mod independent capacitățile pe care cercetătorii au afirmat că le are.
„Inteligența Artificială a rupt granița cu matematica”
Cercetătorii consideră că matematica reprezintă o frontieră în dezvoltarea inteligenței artificiale genetice. În prezent, inteligența artificială genetică este bună la scrierea și traducerea limbajului prin prezicerea statistică a cuvântului următor, iar răspunsurile la aceeași întrebare pot varia foarte mult.
Dar stăpânirea abilității de a face matematică – unde există un singur răspuns corect – înseamnă că IA va avea abilități mai mari de raționament care se vor asemăna cu inteligența umană. Acest lucru ar putea fi aplicat la noi cercetări științifice, de exemplu, cred cercetătorii în domeniul inteligenței artificiale. Spre deosebire de un calculator care poate rezolva un număr limitat de operații, AGI poate generaliza, învăța și înțelege.
În scrisoarea lor către consiliu, cercetătorii au subliniat capacitatea și riscul potențial al inteligenței artificiale, au declarat sursele, fără a preciza care sunt exact problemele de siguranță pe care le-au menționat. Există de mult timp o dezbatere în rândul informaticienilor cu privire la pericolul reprezentat de mașinile foarte inteligente, de exemplu dacă acestea ar putea decide că distrugerea umanității este în interesul lor.
Cercetătorii au indicat, de asemenea, activitatea unui grup de „oameni de știință în domeniul inteligenței artificiale” a cărui existență a fost confirmată de mai multe surse. Echipa, formată pe baza echipelor anterioare „Code Gen” și „Math Gen”, explora modul de optimizare a modelelor de inteligență artificială existente pentru a le îmbunătăți raționamentul și, în cele din urmă, pentru a efectua lucrări științifice, a declarat unul dintre participanți.
Altman a condus eforturile de a face din ChatGPT una dintre aplicațiile software cu cea mai rapidă creștere din istorie și a atras investiții – și resursele informatice necesare de la Microsoft pentru a-și realiza viziunea. Pe lângă faptul că a anunțat o serie de instrumente noi în cadrul unui eveniment desfășurat luna aceasta, Altman a declarat săptămâna trecută la un summit al liderilor mondiali din San Francisco că el crede că există progrese semnificative.
„De patru ori până acum în istoria OpenAI, cea mai recentă fiind chiar în ultimele două săptămâni, am reușit să mă aflu în camera în care împingem vălul ignoranței înapoi și frontiera descoperirii înainte, iar a face acest lucru este onoarea profesională a unei vieți”, a declarat el la summitul Asia-Pacific Economic Cooperation. O zi mai târziu, consiliul de administrație l-a concediat pe Altman.
Reuters
Discuții despre această postare