“Un robot nu are voie să rănească un om sau prin lipsa acțiunii să permită rănirea lui”.

Este prima dintre cele trei legi care guvernează existența roboților pe care scriitorul Isaac Asimov le-a conceput cu mai bine de opt decenii în urmă, în povestirea sa “Runaround”. Este un set de reguli care a schimbat pentru totdeauna lumea literaturii SF. Cei care au creat roboții în realitate, respectiv primii boți inteligenți ai lumii moderne, cum e Chat GPT, nu au fost însă la fel de prevăzători ca scriitorul american.

Oameni de știință din Statele Unite, China și alte națiuni solicită, la ani distanță după dezvoltarea tehnologiilor AI, crearea unei autorități internaționale care să supravegheze inteligența artificială, scrie The New York Times. Din grupul de lucru care s-a reunit zilele trecute fac parte pionieri ai inteligenței artificiale, care acum avertizează că este nevoie de un sistem global de supraveghere pentru a controla riscurile potențial grave pe care le are tehnologia care se dezvoltă rapid.

Lansarea ChatGPT și a altor servicii similare care pot crea text și imagini la comandă au arătat cum inteligența artificială progresează cu o viteză uimitoare. Cursa pentru comercializarea tehnologiei a adus-o rapid în smartphone-uri, mașini și săli de clasă, iar guvernele din lumea întreagă au fost forțate să decidă cum să o reglementeze și exploateze.

Peste câțiva ani, tehnologia IA ne-ar putea depăși

Într-o declarație făcută la începutul acestei săptămâni, un grup de oameni de știință influenți din domeniul IA și-au exprimat îngrijorarea cu privire la faptul că tehnologia la crearea căreia au participat ar putea provoca daune grave. Ei au avertizat că tehnologia IA ar putea, în câțiva ani, să depășească capacitățile creatorilor săi și că:

„Pierderea controlului uman sau utilizarea răuvoitoare a acestor sisteme I.A. ar putea duce la rezultate catastrofale pentru întreaga umanitate”.

Gillian Hadfield, cercetător în domeniul juridic și profesor de informatică și guvernare la Universitatea John Hopkins, a declarat că, în cazul în care sistemele IA de oriunde din lume și-ar dezvolta aceste capacități, în prezent nu există niciun plan pentru a le ține sub control.

„Dacă am avea un fel de catastrofă peste șase luni, dacă am detecta că există modele care încep să se autoîmbunătățească în mod autonom, pe cine veți suna?”

a declarat Dr. Hadfield.

Săptămâna trecută, la Veneția, profesorul Hadfield s-a alăturat oamenilor de știință din întreaga lume pentru a discuta despre un posibil plan de acțiune. Cea de-a treia reuniune a Dialogurilor Internaționale privind Siguranța IA a fost organizată de Forumul Inteligența Artificială în Siguranță la inițiativa unui grup de cercetare din Statele Unite ale Americii numit Far.AI.

“Guvernele trebuie să știe ce se întâmplă în laboratoarele de cercetare și în companiile care lucrează cu sistemele IA în țările lor”, a afirmat grupul în declarația publică. De asemenea, acestea au nevoie de o modalitate de a comunica riscurile potențiale, care să nu oblige companiile sau cercetătorii să împărtășească informații private cu concurența.

Grupul a propus ca țările să înființeze autorități naționale care să înregistreze sistemele de IA de pe teritoriul lor. Aceste autorități ar lucra apoi împreună pentru a conveni asupra unor semnale de avertizare, cum ar fi în cazul în care un sistem de inteligență artificială s-ar putea autocopia sau și-ar înșela în mod deliberat creatorii. Toate aceste instituții ar fi coordonate de un organism internațional.

Declarația a fost semnată de oameni de știință din Statele Unite, China, Marea Britanie, Singapore, Canada și din alte țări.

Printre semnatari se numără Yoshua Bengio, ale cărui lucrări științifice în domeniul IA sunt atât de des citate, încât este numit unul dintre “nașii” domeniului. A fost prezent și Andrew Yao, al cărui curs de la Universitatea Tsinghua din Beijing i-a consacrat pe fondatorii multor companii de IT chineze. Geoffrey Hinton, un om de știință care a făcut pionierat la Google, a participat de la distanță. Toți trei sunt câștigători ai Premiului Turing, echivalentul Premiului Nobel în domeniul informaticii.

Dă-i înainte cu Răsfoiala

ȘTIRI “Viitorul promis de inteligența artificială e scris cu cuvinte furate” de la Margaret Atwood, Haruki Murakami, Stephen King. Plagiatul AI dovedit.

ȘTIRI Primele victime ale cărților create de AI. Au ajuns la spital, pentru că au urmat sfaturile despre culegerea ciupercilor dintr-un ghid dubios.

RECENZIE Mutzunaki, Samanta Schweblin. O distopie despre dezumanizarea prin tehnologie.