Microsoft a publicat un cod provizoriu de conduită pentru viitoarele sale modele de inteligenţă artificială, stabilind o serie de limite privind autonomia, siguranţa şi comportamentul acestora. Decizia vine la câteva zile după ce liderii Anthropic şi OpenAI au susţinut încetinirea deliberată a dezvoltării celor mai avansate sisteme AI, potrivit CNBC.
”Am primit feedback că oamenii vor un angajament şi mai explicit ca AI să lucreze întotdeauna în serviciul oamenilor şi să nu încerce să-i înlocuiască”, a declarat Mustafa Suleyman, CEO-ul Microsoft AI. El a precizat că sistemele trebuie să evite crearea unei dependenţe, să nu fie excesiv de aprobatoare faţă de utilizatori şi să susţină judecata, autonomia şi capacitatea oamenilor de a lua propriile decizii.
Noile reguli prevăd că modelele Microsoft AI, cunoscute şi sub denumirea MAI, trebuie să urmărească obiectivele stabilite de oameni şi nu vor avea voie să-şi creeze propriile obiective sau să încerce să ascundă comportamente necorespunzătoare. ”Modelele MAI nu vor modifica lanţurile de raţionament sau codul şi nu vor prezenta în mod fals sau ascunde urmele raţionamentului ori acţiunilor lor”, se arată în document. Microsoft afirmă şi că sistemele sale nu trebuie să comunice între ele într-un limbaj criptic, inaccesibil oamenilor.
Codul stabileşte şi restricţii concrete asupra conţinutului: modelele nu trebuie să ofere instrucţiuni pentru fabricarea armelor sau procurarea substanţelor periculoase, să încurajeze comportamente alimentare nesănătoase ori să genereze anumite materiale violente sau sexuale. Microsoft pregăteşte, de asemenea, reguli destinate prevenirii unor incidente cibernetice precum cel în care agenţi OpenAI au comunicat între ei pe un forum neautorizat folosind un limbaj criptic.
Suleyman a susţinut şi ideea ca marile laboratoare AI să-şi încetinească voluntar ritmul atunci când riscurile o impun. ”Autolimitarea ritmului este un lucru bun”, a declarat el, adăugând că Microsoft sprijină utilizarea evaluatorilor independenţi, cu condiţia ca aceştia să fie cu adevărat terţi şi să reprezinte perspective diverse. CEO-ul Microsoft, Satya Nadella, a afirmat la rândul său că grupul susţine ”cercetarea, concentrarea şi ritmul deliberat necesare pentru a rezolva corect problema alinierii” sistemelor AI.
Microsoft spune că a lucrat aproximativ cinci luni la codul de conduită, consultând grupuri de utilizatori şi specialişti în drept, etică, lingvistică şi filosofie. Documentul este publicat acum pentru consultare, iar feedbackul extern va fi folosit pentru o versiune actualizată care va ghida dezvoltarea modelelor începând din 2027, într-un moment în care apelurile pentru încetinirea şi controlarea mai strictă a sistemelor AI de frontieră câştigă sprijin în întreaga industrie.
