ISC-ov vodič nudi sveobuhvatan okvir osmišljen za premošćivanje jaza između načela visoke razine i praktične, djelotvorne politike. Odgovara hitnoj potrebi za zajedničkim razumijevanjem mogućnosti i rizika koje predstavljaju tehnologije u nastajanju. Ovo je bitan dokument za one koji rade na političkom povezivanju u našoj digitalnoj eri koja se brzo mijenja.
Okvir istražuje potencijal umjetne inteligencije i njezinih izvedenica kroz sveobuhvatan objektiv, obuhvaćajući dobrobit ljudi i društva zajedno s vanjskim čimbenicima poput ekonomije, politike, okoliša i sigurnosti. Neki aspekti popisa za provjeru mogu biti relevantniji od drugih, ovisno o kontekstu, ali čini se da su bolje odluke vjerojatnije ako se uzmu u obzir sve domene, čak i ako se neke mogu brzo identificirati kao irelevantne u određenim slučajevima. To je inherentna vrijednost pristupa kontrolnom popisu.
“U eri obilježenoj brzim tehnološkim inovacijama i složenim globalnim izazovima, ISC-ov okvir za sveobuhvatnu i višedimenzionalnu analizu potencijalnih učinaka osnažuje vođe da donose informirane i odgovorne odluke. Osigurava da, kako tehnološki napredujemo, to činimo uz pažljivo razmatranje etičkih, društvenih i ekonomskih implikacija”.
Peter Gluckman, predsjednik ISC-a
Dok su UNESCO, OECD, Europska komisija i UN, među ostalima, proglasili načela na visokoj razini, a nastavljaju se razne rasprave o pitanjima potencijalnog upravljanja, regulacije, etike i sigurnosti, postoji veliki jaz između takvih načela i upravljanje ili regulatorni okvir. ISC rješava ovu potrebu kroz svoj novi vodič za donositelje politika.
Ovaj vodič za donositelje politika nema namjeru zabraniti regulatorni režim, već prije predložiti prilagodljiv i evoluirajući analitički okvir koji bi mogao poduprijeti svaku procjenu i regulatorne procese koje bi mogli razviti dionici, uključujući vlade i multilateralni sustav.
„Okvir je kritičan korak u globalnom razgovoru o umjetnoj inteligenciji jer pruža osnovu na kojoj možemo izgraditi konsenzus o implikacijama tehnologije za sada i za budućnost”.
Hema Sridhar, bivša glavna savjetnica za znanost, Ministarstvo obrane, Novi Zeland, a sada viša istraživačica Fellow, Sveučilište u Aucklandu, Novi Zeland.
Od listopada 2023. bilo je nekoliko značajnih nacionalnih i multilateralnih inicijativa s daljnjim razmatranjem etike i sigurnosti umjetne inteligencije. Implikacije umjetne inteligencije na integritet nekih naših kritičnih sustava, uključujući financijski, državni, pravni i obrazovni, kao i različite sustave znanja (uključujući znanstveno i autohtono znanje), izazivaju sve veću zabrinutost. Okvir nadalje odražava ove aspekte.
Povratne informacije primljene od članova ISC-a i međunarodne zajednice koja kreira politiku do danas odražavaju se u revidiranoj verziji analitičkog okvira, koji je sada objavljen kao vodič kreatorima politike.
Vodič za kreatore politike: Procjena tehnologija koje se brzo razvijaju uključujući AI, velike jezične modele i šire
Ovaj dokument za raspravu daje nacrt početnog okvira za informiranje o više globalnih i nacionalnih rasprava koje se vode u vezi s umjetnom inteligencijom.
Preuzmite okvir za korištenje u svojoj organizaciji
Ovdje nudimo okvirni alat kao Excel list koji je moguće uređivati za korištenje u vašoj organizaciji. Ako više volite format otvorenog koda, kontaktirajte [e-pošta zaštićena].
Uvod
Tehnologije koje se brzo razvijaju predstavljaju izazovna pitanja kada je riječ o njihovoj uporabi, upravljanju i potencijalnoj regulaciji. Tekuća politika i javne rasprave o umjetnoj inteligenciji (AI) i njezinoj upotrebi doveli su ova pitanja u akutni fokus. UNESCO, OECD, UN i drugi objavili su široka načela za umjetnu inteligenciju, uključujući Deklaraciju iz Bletchleyja Ujedinjenog Kraljevstva, a pojavljuju se i pokušaji jurisdikcije reguliranja aspekata tehnologije putem, na primjer, umjetne inteligencije Europske unije (EU). Zakon ili nedavna Izvršna uredba Sjedinjenih Država AI.
Dok se o korištenju umjetne inteligencije opširno raspravlja na ovim i drugim forumima, preko geopolitičkih podjela i u zemljama na svim razinama dohotka, ostaje ontološki jaz između razvoja principa visoke razine i njihove ugradnje u praksu bilo kroz regulativu, politiku, upravljanje ili upravni pristupi. Put od načela do prakse je slabo definiran, ali s obzirom na prirodu i tempo razvoja i primjene umjetne inteligencije, raznolikost uključenih interesa i raspon mogućih primjena, nijedan pristup ne može biti pretjerano generički ili preskriptivan.
Iz tih razloga i dalje posebnu ulogu ima nevladina znanstvena zajednica. Međunarodno znanstveno vijeće (ISC) – sa svojim pluralističkim članstvom iz društvenih i prirodnih znanosti – objavilo je dokument za raspravu u listopadu 2023. predstavljajući preliminarni analitički okvir koji razmatra rizike, dobrobiti, prijetnje i prilike povezane s digitalnom tehnologijom koja se brzo razvija. Iako je razvijen za razmatranje umjetne inteligencije, on je inherentno tehnološki agnostik i može se primijeniti na niz novih i disruptivnih tehnologija, kao što su sintetička biologija i kvantna. Taj dokument za raspravu pozivao je na povratne informacije akademika i kreatora politike. Ogromne povratne informacije učinile su provođenje takve analize nužnim i predstavljale su vrijedan pristup rješavanju novih tehnologija poput umjetne inteligencije.
Svrha je okvira pružiti alat za informiranje svih dionika – uključujući vlade, trgovinske pregovarače, regulatore, civilno društvo i industriju – o evoluciji ovih tehnologija kako bi im se pomoglo u oblikovanju načina na koji bi mogli razmotriti implikacije, pozitivne ili negativne, sama tehnologija, točnije njezina posebna primjena. Ovaj analitički okvir razvijen je neovisno o interesima vlade i industrije. Maksimalno je pluralističan u svojim perspektivama, obuhvaćajući sve aspekte tehnologije i njezine implikacije na temelju opsežnih konzultacija i povratnih informacija.
Ovaj dokument za raspravu za donositelje politika nema namjeru zabraniti regulatorni režim, već prije predložiti prilagodljiv i evoluirajući analitički okvir koji bi mogao poduprijeti svaku procjenu i regulatorne procese koje bi mogli razviti dionici, uključujući vlade i multilateralni sustav.
Dok donositelji odluka na globalnoj i nacionalnoj razini razmatraju odgovarajuće postavke politike i poluge za ravnotežu između rizika i koristi nove tehnologije kao što je umjetna inteligencija, analitički okvir je zamišljen kao komplementarni alat kako bi se osiguralo da se cijeli niz potencijalnih implikacija adekvatno odražava.
Pozadina: zašto analitički okvir?
Brza pojava tehnologija sa složenošću i implikacijama AI-a potiče mnoge tvrdnje o velikoj koristi. No, izaziva i strahove od značajnih rizika, od individualne do geostrateške razine.1 Velik dio dosadašnjih rasprava razmatran je u binarnom smislu jer se javno izražena stajališta obično nalaze na krajnjim krajevima spektra. Tvrdnje za ili protiv umjetne inteligencije često su hiperbolične i – s obzirom na prirodu tehnologije – teško ih je procijeniti.
Potreban je pragmatičniji pristup gdje se hiperbola zamjenjuje kalibriranim i detaljnijim procjenama. AI tehnologija nastavit će se razvijati, a povijest pokazuje da gotovo svaka tehnologija ima i korisne i štetne namjene. Pitanje je stoga: kako možemo postići korisne rezultate ove tehnologije, a istovremeno smanjiti rizik od štetnih posljedica, od kojih bi neke mogle biti egzistencijalne veličine?
Budućnost je uvijek neizvjesna, ali postoji dovoljno vjerodostojnih i stručnih glasova u vezi s umjetnom inteligencijom i generativnom umjetnom inteligencijom koji potiču relativno oprezan pristup. Osim toga, nužan je sustavni pristup jer je AI klasa tehnologija sa širokom upotrebom i primjenom od strane više vrsta korisnika. To znači da se mora uzeti u obzir cijeli kontekst kada se razmatraju implikacije upotrebe bilo koje umjetne inteligencije za pojedince, društveni život, građanski život, društveni život iu globalnom kontekstu.
Za razliku od većine drugih tehnologija, za digitalne i srodne tehnologije, vrijeme između razvoja, objave i primjene iznimno je kratko, uglavnom vođeno interesima produkcijskih tvrtki ili agencija. Po samoj svojoj prirodi – i s obzirom na to da se temelji na digitalnoj okosnici – umjetna inteligencija će imati aplikacije koje se brzo šire, kao što je već viđeno s razvojem velikih jezičnih modela. Kao rezultat toga, neka svojstva mogu postati očita tek nakon puštanja, što znači da postoji rizik od nepredviđenih posljedica, kako zlonamjernih tako i dobronamjernih.
Važne dimenzije društvenih vrijednosti, osobito u različitim regijama i kulturama, utjecat će na to kako se bilo kakva uporaba percipira i prihvaća. Nadalje, geostrateški interesi već dominiraju raspravom, pri čemu se suvereni i multilateralni interesi neprestano presijecaju i tako potiču natjecanje i podjele.
Do danas se velik dio regulacije virtualne tehnologije uglavnom promatrao kroz leću 'načela' i dobrovoljne usklađenosti, iako s EU Zakonom o umjetnoj inteligenciji2 i slično vidimo pomak prema provedivijim, ali donekle uskim propisima. Uspostava učinkovitog globalnog ili nacionalnog upravljanja tehnologijom i/ili regulatornog sustava ostaje izazov i ne postoji očito rješenje. Bit će potrebni višestruki slojevi donošenja odluka utemeljenih na riziku duž lanca, od izumitelja do proizvođača, do korisnika, do vlade i multilateralnog sustava.
Dok su UNESCO, OECD, Europska komisija i UN, među ostalima, proglasili načela na visokoj razini, a razne rasprave na visokoj razini se nastavljaju u vezi s pitanjima potencijalnog upravljanja, regulative, etike i sigurnosti, postoji veliki jaz između takvih načela i upravljački ili regulatorni okvir. Ovo treba riješiti.
Kao početnu točku, ISC razmatra razvoj taksonomije razmatranja na koju bi se mogao pozvati svaki programer, regulator, savjetnik za politiku, potrošač ili donositelj odluka. S obzirom na široke implikacije ovih tehnologija, takva taksonomija mora uzeti u obzir ukupnost implikacija, a ne usko fokusirano okviriranje. Globalna fragmentacija se povećava zbog utjecaja geostrateških interesa na donošenje odluka, a s obzirom na hitnost ove tehnologije, neophodno je da neovisni i neutralni glasovi ustrajno zagovaraju jedinstven i uključiv pristup.
1) Hindustan Times. 2023. G20 mora osnovati međunarodni panel o tehnološkim promjenama.
https://www.hindustantimes.com/opinion/g20-must-set-up-an-international-panel-on-technological-change-101679237287848.html
2) Zakon o umjetnoj inteligenciji EU-a. 2023. https://artificialintelligenceact.eu
Razvoj analitičkog okvira
ISC je primarna globalna nevladina organizacija koja objedinjuje prirodne i društvene znanosti. Njegov globalni i disciplinarni doseg znači da je dobro pozicioniran za generiranje neovisnih i globalno relevantnih savjeta za informiranje o složenim izborima koji su pred nama, osobito budući da trenutačni glasovi u ovoj areni uglavnom dolaze iz industrije ili političkih i političkih zajednica velikih tehnoloških sila.
Nakon razdoblja opsežne rasprave, koja je uključivala razmatranje nevladinog procesa procjene, ISC je zaključio da bi njegov najkorisniji doprinos bio stvaranje prilagodljivog analitičkog okvira koji se može koristiti kao temelj za diskurs i donošenje odluka od strane svih dionicima, uključujući tijekom svih formalnih procesa procjene koji se pojave.
Preliminarni analitički okvir, koji je objavljen za raspravu i povratne informacije u listopadu 2023., imao je oblik sveobuhvatnog popisa za provjeru osmišljenog za korištenje od strane vladinih i nevladinih institucija. Okvir je identificirao i istražio potencijal tehnologije poput umjetne inteligencije i njezinih derivata kroz široki objektiv koji obuhvaća ljudsku i društvenu dobrobit, kao i vanjske čimbenike poput ekonomije, politike, okoliša i sigurnosti. Neki aspekti popisa za provjeru mogu biti relevantniji od drugih, ovisno o kontekstu, ali čini se da su bolje odluke vjerojatnije ako se uzmu u obzir sve domene, čak i ako se neke mogu brzo identificirati kao irelevantne u određenim slučajevima. To je inherentna vrijednost pristupa kontrolnom popisu.
Preliminarni okvir izveden je iz prethodnog rada i razmišljanja, uključujući izvješće Međunarodne mreže za vladine znanstvene savjete (INGSA) o digitalnoj dobrobiti3 i Okvir OECD-a za klasifikaciju sustava umjetne inteligencije,4 kako bi se predstavila ukupnost potencijalnih prilika, rizika i učinaka AI. Ovi prethodni proizvodi bili su ograničeniji u svojoj namjeri s obzirom na njihovo vrijeme i kontekst; postoji potreba za sveobuhvatnim okvirom koji predstavlja cijeli niz pitanja kako kratkoročno tako i dugoročno.
Od svog objavljivanja, dokument za raspravu dobio je značajnu potporu mnogih stručnjaka i kreatora politike. Mnogi su posebno podržali preporuku za razvoj prilagodljivog okvira koji omogućuje promišljeno i proaktivno razmatranje rizika i implikacija tehnologije, i pritom uvijek uzima u obzir ukupnost dimenzija od pojedinca do društva i sustava.
Jedno ključno zapažanje izneseno kroz povratne informacije bilo je priznanje da su neke od implikacija koje se razmatraju u okviru inherentno višestrane i da se protežu kroz više kategorija. Na primjer, dezinformacije se mogu promatrati i iz individualne i iz geostrateške perspektive; stoga bi posljedice bile široke.
Također je predložena mogućnost uključivanja studija slučaja ili primjera za testiranje okvira. To bi se moglo koristiti za izradu smjernica koje bi pokazale kako se to može koristiti u praksi u različitim kontekstima. Međutim, to bi bio značajan pothvat i mogao bi ograničiti način na koji različite skupine vide korištenje ovog okvira. To najbolje čine kreatori politika koji rade sa stručnjacima u određenim jurisdikcijama ili kontekstima.
Od listopada 2023. bilo je nekoliko značajnih nacionalnih i multilateralnih inicijativa s daljnjim razmatranjem etike i sigurnosti umjetne inteligencije. Implikacije umjetne inteligencije na integritet nekih naših kritičnih sustava, uključujući financijski, državni, pravni i obrazovni, kao i različite sustave znanja (uključujući znanstveno i autohtono znanje), izazivaju sve veću zabrinutost. Revidirani okvir nadalje odražava ove aspekte.
Povratne informacije primljene do danas odražavaju se u revidiranoj verziji analitičkog okvira, koji je sada objavljen kao vodič kreatorima politika.
Iako je okvir predstavljen u kontekstu umjetne inteligencije i srodnih tehnologija, odmah se može prenijeti na razmatranja drugih brzo nastalih tehnologija kao što su kvantna i sintetička biologija.
3) Gluckman, P. i Allen, K. 2018. Razumijevanje blagostanja u kontekstu brzih digitalnih i povezanih transformacija. INGSA.
https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf
4) OECD. 2022. Okvir OECD-a za klasifikaciju sustava umjetne inteligencije. Dokumenti OECD-a o digitalnoj ekonomiji, br. 323, #. Paris, OECD Publishing.
https://oecd.ai/en/classificatio
Okvir
Sljedeća tablica predstavlja dimenzije pretpostavljenog analitičkog okvira. Navedeni su primjeri koji ilustriraju zašto svaka domena može biti važna; u kontekstu, okvir bi zahtijevao kontekstualno relevantno proširenje. Također je važno razlikovati generičke probleme koji se javljaju tijekom razvoja platforme i one koji se mogu pojaviti tijekom specifičnih aplikacija. Niti jedno pojedinačno razmatranje koje je ovdje uključeno ne bi se trebalo tretirati kao prioritetno i, kao takvo, sve bi trebalo ispitati.
Problemi su općenito grupirani u sljedeće kategorije kako je navedeno u nastavku:
U tablici su navedene dimenzije koje bi se mogle uzeti u obzir pri ocjenjivanju nove tehnologije.
– INGSA. 2018. Razumijevanje dobrobiti u kontekstu brzih digitalnih i povezanih transformacija.
https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf
– Novi deskriptori (prikupljeni putem opsežnih konzultacija, povratnih informacija i pregleda literature)
– Okvir OECD-a za klasifikaciju sustava umjetne inteligencije: alat za učinkovite politike umjetne inteligencije.
https://oecd.ai/en/classification
| Kriteriji | Primjeri kako se to može odraziti na analizu |
| AI kompetencija korisnika | Koliko su vjerojatni korisnici koji će komunicirati sa sustavom kompetentni i svjesni svojstava sustava? Kako će im se pružiti relevantne korisničke informacije i upozorenja? |
| Pogođeni dionik | Tko su primarni dionici na koje će sustav utjecati (pojedinci, zajednice, ranjivi, sektorski radnici, djeca, kreatori politika, stručnjaci itd.)? |
| Izbornost | Imaju li korisnici priliku isključiti se iz sustava ili im se daje mogućnost osporiti ili ispraviti rezultat? |
| Rizici za ljudska prava i demokratske vrijednosti | Utječe li sustav temeljno na ljudska prava, uključujući, ali ne ograničavajući se na privatnost, slobodu izražavanja, poštenje, nediskriminaciju itd.? |
| Potencijalni učinci na dobrobit ljudi | Odnose li se područja utjecaja sustava na dobrobit pojedinog korisnika (kvaliteta posla, obrazovanje, društvene interakcije, mentalno zdravlje, identitet, okoliš itd.)? |
| Potencijal za raseljavanje radne snage | Postoji li mogućnost da sustav automatizira zadatke ili funkcije koje su izvršavali ljudi? Ako je tako, koje su posljedice nizvodno? |
| Potencijal za manipulaciju identitetom, vrijednostima ili znanjem | Je li sustav dizajniran ili potencijalno sposoban manipulirati identitetom korisnika ili postaviti vrijednosti ili širiti dezinformacije? |
| Mogućnosti za samoizražavanje i samoostvarenje | Postoji li mogućnost za lažiranje i sumnju u sebe? Postoji li mogućnost lažnog ili neprovjerljive tvrdnje o stručnosti? |
| Mjere vlastite vrijednosti | Postoji li pritisak da se prikazuje idealizirano ja? Može li automatizacija zamijeniti osjećaj osobnog ispunjenja? Postoji li pritisak da se natječe sa sustavom u radno mjesto? Je li reputaciju pojedinca teže zaštititi od dezinformacija? |
| Privatnost | Postoje li raspršene odgovornosti za očuvanje privatnosti i ima li ih postoje li pretpostavke o tome kako se osobni podaci koriste? |
| Autonomija | Može li sustav umjetne inteligencije utjecati na ljudsku autonomiju stvarajući pretjerano oslanjanje krajnji korisnici? |
| Ljudski razvoj | Postoji li utjecaj na stjecanje ključnih vještina za ljudski razvoj, kao što je izvršne funkcije ili interpersonalne vještine, ili promjene u utjecanju na vrijeme pažnje učenje, razvoj osobnosti, brige za mentalno zdravlje itd.? |
| Osobna zdravstvena njega | Postoje li tvrdnje o samodijagnozi ili personaliziranim rješenjima za zdravstvenu skrb? Ako je tako, jesu li validirani prema regulatornim standardima? |
| Mentalno zdravlje | Postoji li rizik od povećane tjeskobe, usamljenosti ili drugih psihičkih problema, odn može li tehnologija ublažiti takve utjecaje? |
| Ljudska evolucija | Mogu li veliki jezični modeli i opća umjetna inteligencija promijeniti tijek ljudske evolucije? |
| Interakcija čovjek-stroj | Može li uporaba dovesti do dekvalificiranja i ovisnosti pojedinaca tijekom vremena? Jesu li ima li utjecaja na međuljudsku interakciju? |
| Kriteriji | Primjeri kako se to može odraziti na analizu |
| Društvene vrijednosti | Mijenja li sustav iz temelja prirodu društva, omogućava li normalizaciju ideja koje su se prije smatrale antisocijalnima ili krši društvene vrijednosti kulture u kojoj se primjenjuje? |
| Društvene interakcije | Postoji li učinak na smisleni ljudski kontakt, uključujući emocionalne odnose? |
| Zdravlje stanovništva | Postoji li mogućnost da sustav unaprijedi ili potkopa zdravstvene namjere stanovništva? |
| Kulturno izražavanje | Je li vjerojatno ili teže riješiti povećanje kulturnog prisvajanja ili diskriminacije? Isključuje li oslanjanje na sustav donošenja odluka ili marginalizira kulturološki relevantne slojeve društva? |
| Javno obrazovanje | Ima li utjecaja na uloge nastavnika ili obrazovne institucije? Naglašava li sustav ili smanjuje digitalni jaz i nejednakost među učenicima? Je li intrinzična vrijednost znanja ili kritičkog razumijevanja napredna ili potkopana? |
| Iskrivljene stvarnosti | Jesu li metode koje se koriste da se razluči što je istina još uvijek primjenjive? Je li percepcija stvarnosti ugrožena? |
| Kriteriji | Primjeri kako se to može odraziti na analizu |
| Industrijski sektor | U kojem se industrijskom sektoru sustav primjenjuje (financije, poljoprivreda, zdravstvo, obrazovanje, obrana itd.)? |
| Poslovni model | U kojoj poslovnoj funkciji je sustav zaposlen i u kojem svojstvu? Gdje se sustav koristi (privatno, javno, neprofitno)? |
| Utjecaji na kritične aktivnosti | Bi li poremećaj funkcije ili aktivnosti sustava utjecao na bitne usluge ili kritične infrastrukture? |
| Širina primjene | Kako se sustav primjenjuje (uska uporaba unutar jedinice naspram široko rasprostranjene na nacionalnoj/međunarodnoj razini)? |
| Tehnička zrelost | Koliko je sustav tehnički zreo? |
| Interoperabilnost | Postoji li vjerojatnost da postoje silosi, nacionalni ili globalni, koji koče slobodnu trgovinu i utječu na suradnju s partnerima? |
| Tehnološki suverenitet | Je li želja za tehnološkom suverenošću pokretač ponašanja, uključujući kontrolu nad cijelim opskrbnim lancem umjetne inteligencije? |
| Preraspodjela dohotka i nacionalne fiskalne poluge | Mogu li bitne uloge suverene države biti ugrožene (npr. rezervne banke)? Hoće li sposobnost države da ispuni očekivanja građana i implikacije (socijalne, ekonomske, političke itd.) biti poboljšane ili smanjene? |
| Digitalni jaz (AI jaz) | Jesu li postojeće digitalne nejednakosti pogoršane ili su stvorene nove? |
| Kriteriji | Primjeri kako se to može odraziti na analizu |
| Upravljanje i javna služba | Može li se na mehanizme upravljanja i globalni sustav upravljanja utjecati pozitivno ili negativno? |
| Novinarstvo | Je li vjerojatno da će se javni diskurs polarizirati i ukorijeniti na razini stanovništva? Hoće li to utjecati na razinu povjerenja u četvrtu vlast? Hoće li to dodatno utjecati na konvencionalnu novinarsku etiku i standarde integriteta? |
| Vladavina zakona | Hoće li to utjecati na sposobnost identificiranja pojedinaca ili organizacija koje će se smatrati odgovornima (npr. koju vrstu odgovornosti dodijeliti algoritmu za nepovoljne ishode)? Je li stvoren gubitak suvereniteta (okoliš, fiskalna, socijalna politika, etika itd.)? |
| Politika i socijalna kohezija | Postoji li mogućnost više ukorijenjenih političkih stavova i manje mogućnosti za izgradnju konsenzusa? Postoji li mogućnost daljnje marginalizacije skupina? Jesu li protivnički stilovi politike više ili manje vjerojatni? |
| Društvena licenca | Postoje li pitanja privatnosti, pitanja povjerenja i moralna pitanja koja treba uzeti u obzir da bi dionici prihvatili korištenje? |
| Autohtono znanje | Mogu li se domorodačko znanje i podaci pokvariti ili zloupotrijebiti? Postoje li odgovarajuće mjere za zaštitu od lažnog predstavljanja, dezinformiranja i iskorištavanja? |
| Znanstveni sustav | Je li akademski i istraživački integritet ugrožen? Gubi li se povjerenje u znanost? Postoje li mogućnosti zlouporabe, prekomjerne uporabe ili zloporabe? Što je posljedica prakticiranja znanosti? |
| Kriteriji | Primjeri kako se to može odraziti na analizu |
| Precizni nadzor | Jesu li sustavi obučeni na individualnim ponašajnim i biološkim podacima i mogu li se koristiti za iskorištavanje pojedinaca ili grupa? |
| Digitalna konkurencija | Mogu li državni ili nedržavni akteri (npr. velike tehnološke tvrtke) iskoristiti sustave i podatke za razumijevanje i kontrolu stanovništva i ekosustava drugih zemalja ili potkopati kontrolu nadležnosti? |
| Geopolitičko natjecanje | Može li sustav potaknuti natjecanje među nacijama oko korištenja pojedinačnih i grupnih podataka za ekonomske, medicinske i sigurnosne interese? |
| Smjena globalnih sila | Je li status nacionalnih država kao primarnih svjetskih geopolitičkih aktera ugrožen? Imaju li tehnološke tvrtke moć koja je nekoć bila rezervirana za nacionalne države i jesu li postale neovisni, suvereni akteri (tehnopolarni svjetski poredak u nastajanju)? |
| Dezinformacija | Bi li sustav olakšao proizvodnju i širenje dezinformacija od strane državnih i nedržavnih aktera s utjecajem na društvenu koheziju, povjerenje i demokraciju? |
| Primjene s dvojnom namjenom | Postoji li mogućnost i za vojnu i za civilnu primjenu? |
| Fragmentacija globalnog poretka | Mogu li se razviti silosi ili klasteri propisa i usklađenosti koji ometaju suradnju, dovode do nedosljednosti u primjeni i stvaraju prostor za sukobe? |
| Kriteriji | Primjeri kako se to može odraziti na analizu |
| Potrošnja energije i resursa (ugljični otisak) | Povećavaju li sustav i zahtjevi potrošnju energije i resursa iznad povećanja učinkovitosti dobivenog primjenom? |
| Izvor energije | Odakle se dobiva energija za sustav (obnovljivi izvori u odnosu na fosilna goriva itd.)? |
| Kriteriji | Primjeri kako se to može odraziti na analizu |
| Smjer i naplata | Prikupljaju li podatke i unose ljudi, automatizirani senzori ili oboje? |
| Podrijetlo podataka | Jesu li podaci i inputi stručnjaka pruženi, opaženi, sintetički ili izvedeni? Postoje li zaštite od vodenog žiga za potvrdu porijekla? |
| Dinamička priroda podataka | Jesu li podaci dinamički, statični, dinamički ažurirani s vremena na vrijeme ili u stvarnom vremenu? |
| Prava | Jesu li podaci vlasnički, javni ili osobni (povezani s osobama koje se mogu identificirati)? |
| Identifikacija i osobni podaci | Ako su osobni, jesu li podaci anonimizirani ili pseudonimizirani? |
| Struktura podataka | Jesu li podaci strukturirani, polustrukturirani, složeno strukturirani ili nestrukturirani? |
| Format podataka | Je li format podataka i metapodataka standardiziran ili nestandardiziran? |
| Razmjer podataka | Koja je skala skupa podataka? |
| Prikladnost i kvaliteta podataka | Odgovara li skup podataka svrsi? Je li veličina uzorka odgovarajuća? Je li dovoljno reprezentativan i cjelovit? Koliko su šumovi u podacima? Je li sklon greškama? |
| Kriteriji | Primjeri kako se to može odraziti na analizu |
| Dostupnost informacija | Jesu li dostupne informacije o modelu sustava? |
| Vrsta AI modela | Je li model simboličan (ljudski generirana pravila), statistički (koristi podatke) ili hibrid? |
| Prava povezana s modelom | Je li model otvorenog koda ili vlasnički, njime upravlja sam ili treća strana? |
| Jedan od više modela | Je li sustav sastavljen od jednog modela ili nekoliko međusobno povezanih modela? |
| Generativno ili diskriminativno | Je li model generativan, diskriminativan ili oboje? |
| Izgradnja modela | Uči li sustav na temelju pravila koje su napisali ljudi, iz podataka, kroz nadzirano učenje ili kroz učenje s potkrepljenjem? |
| Evolucija modela (AI drift) | Razvija li se model i/ili stječe sposobnosti interakcijom s podacima na terenu? |
| Federativno ili središnje učenje | Je li model treniran centralno ili na nekoliko lokalnih poslužitelja ili 'rubnih' uređaja? |
| Razvoj/održavanje | Je li model univerzalan, prilagodljiv ili prilagođen podacima AI aktera? |
| Deterministički ili probabilistički | Koristi li se model na deterministički ili probabilistički način? |
| Transparentnost modela | Jesu li informacije dostupne korisnicima koje im omogućuju razumijevanje rezultata modela i ograničenja ili ograničenja korištenja? |
| Računalno ograničenje | Postoje li računalna ograničenja za sustav? Je li moguće predvidjeti skokove sposobnosti ili zakone skaliranja? |
| Kriteriji | Primjeri kako se to može odraziti na analizu |
| Zadaci koje izvodi sustav | Koje zadatke sustav obavlja (prepoznavanje, otkrivanje događaja, predviđanje itd.)? |
| Kombiniranje zadataka i radnji | Kombinira li sustav nekoliko zadataka i radnji (sustavi za generiranje sadržaja, autonomni sustavi, kontrolni sustavi itd.)? |
| Razina autonomije sustava | Koliko su autonomne radnje sustava i kakvu ulogu imaju ljudi? |
| Stupanj ljudske uključenosti | Postoji li ljudski angažman koji nadzire sveukupnu aktivnost AI sustava i sposobnost odlučivanja kada i kako koristiti AI sustav u bilo kojoj situaciji? |
| Osnovna aplikacija | Pripada li sustav temeljnom području primjene kao što su tehnologije ljudskog jezika, računalni vid, automatizacija i/ili optimizacija ili robotika? |
| Procjena | Jesu li dostupni standardi ili metode za procjenu rezultata sustava? |
Kako bi se ovaj okvir mogao koristiti?
Ovaj se okvir može koristiti na mnogo načina, uključujući:
Put naprijed
Ukratko, analitički okvir pruža se kao osnova skupa alata koji bi dionici mogli koristiti za sveobuhvatan pregled bilo kojeg značajnog razvoja bilo platformi ili upotrebe na dosljedan i sustavan način. Dimenzije predstavljene u ovom okviru relevantne su od procjene tehnologije do javne politike, od ljudskog razvoja do sociologije i studija budućnosti i tehnologije. Iako je razvijen za AI, ovaj analitički okvir ima mnogo širu primjenu na bilo koju drugu tehnologiju u nastajanju.
Zahvale
Mnogi su ljudi konzultirani i dali su povratne informacije tijekom razvoja i početnog dokumenta za raspravu i povratnih informacija nakon njegovog objavljivanja. Oba dokumenta sastavio je Sir Peter Gluckman, predsjednik ISC-a i Hema Sridhar, bivša glavna znanstvena savjetnica Ministarstva obrane Novog Zelanda, a sada viša istraživačica Fellow, Sveučilište u Aucklandu, Novi Zeland.
Konkretno, ISC Lord Martin Rees, bivši predsjednik Kraljevskog društva i suosnivač Centra za proučavanje egzistencijalnih rizika Sveučilišta u Cambridgeu; Profesor Shivaji Sondhi, profesor fizike, Sveučilište u Oxfordu; Profesor K Vijay Raghavan, bivši glavni znanstveni savjetnik Vlade Indije; Amandeep Singh Gill, izaslanik glavnog tajnika UN-a za tehnologiju; Seán Ó hÉigeartaigh, izvršni direktor, Centar za proučavanje egzistencijalnih rizika, Sveučilište u Cambridgeu; Sir David Spiegelhalter, Winton profesor javnog razumijevanja rizika, Sveučilište
od Cambridgea; Amanda-June Brawner, viša savjetnica za politiku i Ian Wiggins, direktor međunarodnih poslova, Kraljevsko društvo, Ujedinjeno Kraljevstvo; Dr. Jerome Duberry, generalni direktor i dr. Marie-Laure Salles, direktorica Geneva Graduate Institute; Chor Pharn Lee, Centar za stratešku budućnost, Ured premijera, Singapur; Barend Mons i dr. Simon Hodson, Odbor za podatke (CoDATA); Profesor Yuko Harayama, bivši izvršni direktor, RIKEN; Profesor
Rémi Quirion, predsjednik, INGSA; dr. Claire Craig, Sveučilište u Oxfordu i bivša voditeljica odjela za predviđanje, Vladin ured za znanost; prof. Yoshua Bengio, Znanstveni savjetodavni odbor glavnog tajnika UN-a i na Sveučilištu u Montréalu; i mnogi drugi koji su dali povratne informacije ISC-u o početnom dokumentu za raspravu.
Priprema nacionalnih istraživačkih ekosustava za umjetnu inteligenciju: strategije i napredak u 2024
Ovaj radni dokument ISC-ovog think tanka, Centra za budućnost znanosti, pruža temeljne informacije i pristup resursima iz zemalja iz svih dijelova svijeta, u različitim fazama integracije umjetne inteligencije u njihove istraživačke ekosustave.
Izgradnja znanstvenih sustava spremnih za budućnost na globalnom jugu
Nove tehnologije mijenjaju način na koji se znanost provodi i nude značajan potencijal za jačanje znanstvenih sustava na globalnom jugu - ako je njihovo usvajanje vođeno uključivim, dobro podržanim i kontekstualno osjetljivim pristupima. Središnji fokus ovog nedavnog strateškog sastanka bio je kako osigurati da te tehnologije doprinose pravednijim i otpornijim znanstvenim sustavima, umjesto da pojačavaju postojeće nejednakosti.
Pročitajte više o otkrivanju informacija o umjetnoj inteligenciji u istraživanju: prema globalnom standardu izvještavanja 
Pročitajte više o Godišnjem izvješću 2025 Pročitajte više o temi Prema rodnoj ravnopravnosti u znanstvenim organizacijama: procjena i preporuke 
Pročitajte više o Globalnom dijalogu znanja u Muscatu 