Američki predsjednik Donald Trump objavio je sporazum koji je potpisao s čelnicima nekih od najvećih tehnoloških i AI kompanija. Dokument predviđa četiri razine kontrole najnaprednijih AI modela, ali nije pravno obvezujući i u velikoj se mjeri oslanja na samoregulaciju industrije.
Trump ga je opisao kao “moralno obvezujući”, a rekao je i da je riječ o dokumentu koji je “na neki način gotovo poput ustava”.
Sporazum pod nazivom “Joint Commitment on Frontier Responsibilities” potpisali su Googleov Sundar Pichai, izvršni direktor Anthropica Dario Amodei, šef Mete Mark Zuckerberg, predsjednik OpenAI-ja Greg Brockman, Elon Musk iz xAI-ja i izvršni direktor Nvidije Jensen Huang.
Četiri razine kontrole
U dokumentu se navodi da je svaka kompanija odgovorna za siguran razvoj vlastite tehnologije i da tvrtke koje razvijaju najnaprednije AI modele trebaju uspostaviti četiri razine kontrole i provjera.
Prvo, trebaju imati snažne interne sustave kojima će pratiti sposobnosti svojih modela tijekom razvoja i korištenja. Posebno se navode kibernetička sigurnost, biološke i kemijske prijetnje te sprečavanje AI modela da na neželjen način hakiraju ili pristupaju računalnim sustavima.
Kompanije potom trebaju imati poseban interni tim koji će provjeravati funkcioniraju li te kontrole i rješavaju li se uočeni problemi.
Treća razina predviđa suradnju s neovisnim vanjskim revizorom ili evaluatorom koji bi provjeravao rade li sigurnosni mehanizmi kako je zamišljeno.
Na kraju, neovisni odbor na razini uprave kompanije trebao bi nadzirati interne i vanjske provjere te pratiti rješavanje otkrivenih problema.
Nema zakonskih sankcija
Sporazum, međutim, nije zakon niti propisuje kazne kompanijama koje se dogovorenih pravila ne budu pridržavale.
Ne određuje ni jedinstvenog regulatora koji bi nadzirao sve potpisnike, a ne propisuje detaljno ni način izbora vanjskih evaluatora niti obvezu javnog objavljivanja njihovih nalaza.
Potpisnici su se obvezali redovito sastajati kako bi utvrđivali zajedničke standarde i najbolje prakse za sigurnost AI sustava.
U dokumentu se navodi i da bi te korake jednog dana moglo imati smisla pretočiti u zakone ili propise.
Trump: Vidim ogromnu samoregulaciju
Trump je nakon sastanka jasno dao do znanja da zasad računa prije svega na samokontrolu tehnološke industrije.
“Mislim da vidim ogromnu samoregulaciju. Oni razumiju da se moraju sami kontrolirati”, rekao je.
Sporazum dolazi u vrijeme sve intenzivnije rasprave o tome mogu li kompanije same dovoljno učinkovito nadzirati sve sposobnije AI sustave.
Trumpova administracija protivi se snažnom usporavanju razvoja umjetne inteligencije te razvoj AI-ja vidi i kao pitanje američke tehnološke i gospodarske konkurentnosti, posebno u odnosu na Kinu.
Trump je spomenuo i mogućnost osnivanja tijela od desetak ljudi koje bi se bavilo sigurnošću umjetne inteligencije, ali zasad nije poznato tko bi u njemu bio niti kakve bi ovlasti imalo./HMS/