DA LI SMO BEZBEDNI SA VEŠTAČKOM INTELIGENCIJOM? Novi globalni potez UN-a daje odgovor
MEĐUNARODNA unija za telekomunikacije (ITU), specijalizovana agencija Ujedinjenih nacija za digitalne tehnologije, pokrenula je danas novu međunarodnu inicijativu čiji je cilj da poveća bezbednost i poverenje u AI agente, napredne sisteme veštačke inteligencije koji mogu da donose odluke i obavljaju zadatke u ime korisnika.
FOTO: GROK AI
Inicijativa je predstavljena na samitu "AI for Good" u Ženevi, a predviđa osnivanje posebne ekspertske grupe koja će razviti međunarodne smernice kako bi AI agenti bili jasno prepoznatljivi, pouzdani i pod stalnim ljudskim nadzorom, naročito u oblastima poput finansijskih transakcija i upravljanja kritičnom infrastrukturom, prenosi Rojters.
- AI agenti će uskoro pregovarati, obavljati transakcije i donositi odluke u naše ime. Potrebna su zajednička međunarodna pravila kako bi bilo jasno ko su ti agenti i kada im se može verovati - izjavila je kopredsedavajuća nove radne grupe Debora Komparin.
U radu grupe učestvovaće stručnjaci iz oblasti tehnologije, prava i javnih politika, a prvi sastanak zakazan je za novembar u Parizu, dok će drugi biti održan u januaru naredne godine u Ženevi. Cilj je uspostavljanje međunarodnih standarda za bezbednu primenu AI agenata u privredi i javnom sektoru.
Agenti na bazi veštačke intelegencije predstavljaju novu generaciju sistema veštačke inteligencije koji mogu samostalno da izvršavaju različite zadatke - od zakazivanja sastanaka i kupovine proizvoda do upravljanja složenim poslovnim procesima.
Eksperti upozoravaju da njihova sve rast autonomije AI agenata otvara pitanja odgovornosti, zloupotrebe identiteta i donošenja neovlašćenih odluka.
(Tanjug)
BONUS VIDEO