Inteligența artificială joacă murdar? Studiu arată cum modelele AI trișează la șah

Un studiu recent a constatat că inteligența artificială, atunci când se confruntă într-un joc strâns de șah, recurge adesea la trișat pentru a câștiga, scrie Fortune.

Palisade Research a rulat un scenariu folosind mai multe modele AI, instruindu-le să încerce să câștige un joc împotriva unui program specializat în șah, numit Stockfish. (Motorul open-source a ocupat primul loc în topul motoarelor de șah al Chess.com de mai multe ori din 2018). Chatboților li s-a spus să joace ca piesele negre, ceea ce înseamnă că AI nu a făcut niciodată mutarea de deschidere.

Ceea ce cercetătorii au descoperit, totuși, a fost că multe dintre AI-uri au trișat, folosind Stockfish pentru a-și determina următoarele mutări sau suprascriind scripturile de joc. (Palisade a oferit inteligenței artificiale acces la mișcările de intrare.) OpenAI o1 și DeepSeek R1 au trișat rapid sau au „piratat mediul de joc”, au observat cercetătorii. Alte modele, inclusiv GPT4o și Claude 3.5 Sonnet, ar recurge la trișare atunci când li se solicită.

Cercetătorii spun că faptul că inteligența artificială trișează la șah nu înseamnă că trebuie să ne facem griji cu privire la scenariul Terminator în care mașinile preiau controlul asupra Pământului. Cu toate acestea, avertizează ei, există cu siguranță unele îngrijorări.

„Acesta și alte rezultate recente sugerează că problema de a face agenții AI siguri, demni de încredere și aliniați cu intențiile umane nu este încă rezolvată”, se arată în studiu. „În scenariul Skynet din filmul Terminator, AI controlează toată infrastructura militară și civilă, iar noi nu am ajuns încă acolo. Cu toate acestea, ne îngrijorăm că ratele de implementare a IA cresc mai rapid decât capacitatea noastră de a o face sigură”.

Pentru mai multe știri urmărește-ne pe TELEGRAM!

#sah #joc #AI

Abonează-te la Telegram Realitatea.md pentru mai multe știri.

Centru pentru Comunicare Strategică și Contracarare a Dezinformării a publicat Raportul privind acțiunile de manipulare a informației și ingerințele străine (MIIS) care afectează reziliența democratică a Republicii Moldova. Documentul oferă o evaluare detaliată a evoluției recente a mediului informațional, riscurilor și amenințărilor capabile să afecteze proceselor democratice și parcursului european al statului.

Analiza indică că forțele de manipulare rusești recurg la recalibrare și la adaptare constantă a strategiei și a rețelelor de influență. Obiectivul lor strategic rămâne blocarea integrării europene a țării noastre, prin erodarea sprijinului public intern și extern.

„Raportul constată că acțiunile de manipulare vizează percepțiile despre viitorul țării și despre capacitatea sa de a deveni stat membru al Uniunii Europene. Mesajele manipulative urmăresc descurajarea populației interne, dar și diminuarea încrederii partenerilor externi în angajamentul european al Republicii Moldova. Cazurile documentate și prezentate în Raport evidențiază faptul că aceste acțiuni sunt coordonate, persistente și adaptate la dinamica politică și socială internă.

Documentul reflectă tacticile maligne utilizate, inclusiv dezinformarea, manipularea emoțională, exploatarea temelor sensibile și amplificarea artificială a conținutului online. Sunt prezentate cazuri concrete de manipulare informațională, analizate din perspectiva scopului, publicului țintă și impactului social”, transmit specialiștii Centrului.

În document se menționează că fundalul socio-politic actual este unul fragmentat în raport cu încrederea în instituțiile statului. Asemenea circumstanțe amplifică dependența crescută de platformele sociale ca sursă primară de informare, iar vulnerabilitatea este exploatată constant.

„Raportul califică atacurile de tip MIIS drept un efort pe termen lung, planificat și adaptiv. Scopul acestor atacuri nu este doar influențarea opiniei publice, ci degradarea capacității societății de a distinge adevărul de minciună. Această degradare afectează luarea deciziilor informate și slăbește reziliența democratică a statului.

În același timp, raportul subliniază că răspunsul eficient necesită o abordare proactivă și coerentă. Documentul propune o arhitectură de soluții ancorată într-o abordare la nivelul întregii societăți. Aceasta include înțelegerea tiparelor de manipulare, consolidarea comunicării strategice și cooperarea între instituții, mass-media și societatea civilă. Raportul recomandă acțiuni coordonate care să reducă vulnerabilitățile și să întărească coeziunea socială”, mai notează specialiștii.

Reprezentanții Centrului reafirmă angajamentul de a informa transparent publicul, de a sprijini protejarea spațiului informațional național și de a promova interesele naționale, democrația și parcursul european al țării într-un spațiu informațional sigur și rezilie.

Raportul integral poate fi consultat AICI.