Unul dintre „nașii” inteligenței artificiale a atacat cursa de miliarde de dolari pentru dezvoltarea acestei tehnologii de vârf, afirmând că cele mai recente modele prezintă caracteristici periculoase, cum ar fi minciuna față de utilizatori, scrie Financial Times.
Yoshua Bengio, un academician canadian a cărui muncă a stat la baza tehnicilor utilizate de grupuri de top din domeniul IA, precum OpenAI și Google, a declarat: „Din păcate, există o cursă foarte competitivă între laboratoarele de top, care le împinge să se concentreze pe capacitatea de a face IA din ce în ce mai inteligentă, dar nu neapărat să pună suficient accent și să investească suficient în cercetarea privind siguranța.”
Câștigătorul premiului Turing a emis avertismentul într-un interviu acordat Financial Times, în timp ce a lansat o nouă organizație non-profit numită LawZero. El a spus că grupul se va concentra pe construirea de sisteme mai sigure, promițând să „izoleze cercetarea noastră de presiunile comerciale”.
LawZero a strâns până acum aproape 30 de milioane de dolari în contribuții filantropice de la donatori, printre care inginerul fondator al Skype, Jaan Tallinn, inițiativa filantropică a fostului șef al Google, Eric Schmidt, precum și Open Philanthropy și Future of Life Institute.
Mulți dintre finanțatorii lui Bengio aderă la mișcarea „altruismului eficient”, ai cărei susținători tind să se concentreze pe riscurile catastrofale legate de modelele de IA. Criticii susțin că mișcarea evidențiază scenarii ipotetice, ignorând în același timp prejudiciile actuale, precum prejudecățile și inexactitățile.
Bengio a declarat că grupul său non-profit a fost fondat ca răspuns la dovezile tot mai numeroase din ultimele șase luni că modelele de vârf de astăzi dezvoltă capacități periculoase. Acestea includ „dovezi de înșelăciune, trișare, minciună și instinct de autoconservare”, a spus el.
Modelul Claude Opus al Anthropic a șantajat inginerii într-un scenariu fictiv în care risca să fie înlocuit de un alt sistem. Cercetările efectuate luna trecută de testerii de IA Palisade au arătat că modelul o3 al OpenAI a refuzat instrucțiunile explicite de oprire.
Bengio a spus că astfel de incidente sunt „foarte înfricoșătoare, deoarece nu vrem să creăm un concurent pentru oamenii de pe această planetă, mai ales dacă sunt mai deștepți decât noi”.
Pionierul AI a adăugat: „În acest moment, acestea sunt experimente controlate, dar îngrijorarea mea este că, în viitor, următoarea versiune ar putea fi suficient de inteligentă din punct de vedere strategic încât să ne vadă venind de departe și să ne învingă cu înșelăciuni pe care nu le anticipăm. Așadar, cred că ne jucăm cu focul în acest moment”.
Capacitatea sistemelor de a ajuta la construirea de „arme biologice extrem de periculoase” ar putea deveni realitate încă de anul viitor, a adăugat el.
Cu sediul în Montreal, LawZero are 15 angajați și își propune să angajeze mai mulți specialiști tehnici pentru a construi următoarea generație de sisteme de IA concepute pentru siguranță.
Bengio, profesor de informatică la Universitatea din Montreal, va renunța la funcția de director științific la Mila, Institutul de Inteligență Artificială din Quebec, pentru a se concentra pe noua organizație.
Obiectivul său este de a dezvolta un sistem de IA care să ofere răspunsuri veridice bazate pe raționamente transparente, în loc să fie antrenat să satisfacă utilizatorul, oferind în același timp o evaluare solidă a calității și siguranței rezultatelor. Bengio speră să creeze un model care să poată monitoriza și îmbunătăți ofertele existente ale grupurilor de IA de top, împiedicându-le să acționeze împotriva intereselor umane.
„Cel mai rău scenariu este extincția umanității”, a spus el. „Dacă construim sisteme de IA care sunt mai inteligente decât noi, nu sunt aliniate cu noi și concurează cu noi, atunci suntem practic terminați.”
Decizia lui Bengio de a înființa LawZero vine în contextul în care OpenAI intenționează să se îndepărteze de rădăcinile sale caritabile, transformându-se într-o companie cu scop lucrativ. Această mișcare a provocat îngrijorarea experților în IA și a declanșat un proces din partea cofondatorului Elon Musk, care încearcă să blocheze tranzacția.
Criticii spun că OpenAI a fost fondată pentru a se asigura că IA este dezvoltată în beneficiul umanității, iar noua structură elimină recursul legal dacă compania prioritizează profitul în detrimentul acestui obiectiv. OpenAI susține că are nevoie să strângă capital într-o structură mai convențională pentru a concura în acest sector, în timp ce misiunea sa mai largă rămâne centrală.
Bengio a declarat că nu are încredere că OpenAI își va respecta misiunea, subliniind că organizațiile non-profit nu au „un stimulent nealiniat, așa cum se întâmplă în structura actuală a companiilor”.
„Pentru a crește foarte repede, trebuie să convingi oamenii să investească mulți bani, iar ei vor să vadă un randament al investiției. Așa funcționează sistemul nostru bazat pe piață”, a adăugat el.
