Inteligența artificială joacă murdar? Studiu arată cum modelele AI trișează la șah

Un studiu recent a constatat că inteligența artificială, atunci când se confruntă într-un joc strâns de șah, recurge adesea la trișat pentru a câștiga, scrie Fortune.

Palisade Research a rulat un scenariu folosind mai multe modele AI, instruindu-le să încerce să câștige un joc împotriva unui program specializat în șah, numit Stockfish. (Motorul open-source a ocupat primul loc în topul motoarelor de șah al Chess.com de mai multe ori din 2018). Chatboților li s-a spus să joace ca piesele negre, ceea ce înseamnă că AI nu a făcut niciodată mutarea de deschidere.

Ceea ce cercetătorii au descoperit, totuși, a fost că multe dintre AI-uri au trișat, folosind Stockfish pentru a-și determina următoarele mutări sau suprascriind scripturile de joc. (Palisade a oferit inteligenței artificiale acces la mișcările de intrare.) OpenAI o1 și DeepSeek R1 au trișat rapid sau au „piratat mediul de joc”, au observat cercetătorii. Alte modele, inclusiv GPT4o și Claude 3.5 Sonnet, ar recurge la trișare atunci când li se solicită.

Cercetătorii spun că faptul că inteligența artificială trișează la șah nu înseamnă că trebuie să ne facem griji cu privire la scenariul Terminator în care mașinile preiau controlul asupra Pământului. Cu toate acestea, avertizează ei, există cu siguranță unele îngrijorări.

„Acesta și alte rezultate recente sugerează că problema de a face agenții AI siguri, demni de încredere și aliniați cu intențiile umane nu este încă rezolvată”, se arată în studiu. „În scenariul Skynet din filmul Terminator, AI controlează toată infrastructura militară și civilă, iar noi nu am ajuns încă acolo. Cu toate acestea, ne îngrijorăm că ratele de implementare a IA cresc mai rapid decât capacitatea noastră de a o face sigură”.

Pentru mai multe știri urmărește-ne pe TELEGRAM!

#sah #joc #AI

Abonează-te la Telegram Realitatea.md pentru mai multe știri.

Fostul prim-ministru Dorin Recean a fost desemnat în funcția de emisar special al Președintelui Republicii Moldova pentru dezvoltare și reziliență, potrivit decretului semnat de președintele Maia Sandu.

Conform deciziei, emisarul special își va exercita atribuțiile în baza unui mandat distinct, anexat documentului de numire. Funcția are un caracter special și este axată pe consolidarea capacității statului de a face față riscurilor complexe, în special celor de natură hibridă.

Potrivit mandatului, Dorin Recean are misiunea de a contribui la promovarea eforturilor interinstituționale și multisectoriale orientate spre creșterea rezilienței Republicii Moldova și prevenirea amenințărilor la adresa securității naționale. Accentul este pus pe cooperare, coordonare și integrarea politicilor publice în domeniul securității și dezvoltării.

În exercitarea atribuțiilor sale, emisarul special va coopera cu autoritățile administrației publice centrale, instituțiile din sectorul de securitate, reprezentanții societății civile, precum și cu organizații internaționale relevante, pentru a asigura un cadru coerent și eficient de acțiune în domeniul rezilienței.

De asemenea, Dorin Recean va avea rolul de a promova imaginea Republicii Moldova pe platformele și în cadrul inițiativelor internaționale dedicate consolidării rezilienței și securității, acționând în coordonare cu autoritățile competente ale statului.

Mandatul mai prevede și promovarea schimbului de bune practici, atragerea de expertiză, asistență tehnică, finanțări și proiecte strategice naționale și internaționale, menite să consolideze capacitatea de reziliență a Republicii Moldova.