Këtë javë, Franca priti një Samit të Veprimit të AI në Paris për të diskutuar pyetjet akute rreth inteligjencës artificiale (AI), të tilla si se si njerëzit mund t'i besojnë teknologjive të AI dhe se si bota mund t'i qeverisë ato.

Gjashtëdhjetë vende, duke përfshirë Francën, Kinën, Indinë, Japoninë, Australinë dhe Kanadanë, nënshkruan një deklaratë për AI "gjithëpërfshirëse dhe të qëndrueshme". Britania e Madhe dhe Shtetet e Bashkuara refuzuan në mënyrë të veçantë të nënshkruajnë, me Britaninë që tha se deklarata dështoi të trajtonte në mënyrë adekuate qeverisjen globale dhe sigurinë kombëtare, dhe nënpresidenti i SHBA JD Vance kritikoi "rregullimin e tepruar" të Evropës për AI.

Kritikët thonë se samiti mënjanoi shqetësimet e sigurisë në favor të diskutimit të mundësive tregtare.

Javën e kaluar, mora pjesë në konferencën inauguruese të sigurisë së AI të mbajtur nga Shoqata Ndërkombëtare për Inteligjencën Artificiale të Sigurt dhe Etike, gjithashtu në Paris, ku dëgjova biseda nga korifenjtë e AI Geoffrey Hinton, Yoshua Bengio, Anca Dragan, Margaret Mitchell, Max Tegmark, Kate Crawford, Joseph Stiglitz dhe Stuart Russell.

Teksa dëgjova, kuptova se mospërfillja e shqetësimeve për sigurinë e AI midis qeverive dhe publikut bazohet në një grusht mitesh ngushëlluese rreth AI që nuk janë më të vërteta, nëse do të ishin ndonjëherë.

1: Inteligjenca e përgjithshme artificiale nuk është vetëm fantashkencë

Shqetësimet më të rënda rreth AI, se mund të përbëjë një kërcënim për ekzistencën njerëzore, zakonisht përfshijnë të ashtuquajturën inteligjencë të përgjithshme artificiale (AGI). Në teori, AGI do të jetë shumë më i avancuar se sistemet aktuale.

Sistemet AGI do të jenë në gjendje të mësojnë, evoluojnë dhe modifikojnë aftësitë e tyre. Ata do të jenë në gjendje të ndërmarrin detyra përtej atyre për të cilat janë projektuar fillimisht, dhe përfundimisht të tejkalojnë inteligjencën njerëzore.

AGI nuk ekziston ende dhe nuk është e sigurt se do të zhvillohet ndonjëherë. Kritikët shpesh e hedhin poshtë AGI si diçka që i përket vetëm filmave fantashkencë. Si rezultat, rreziqet më kritike nuk merren seriozisht nga disa dhe shihen si fantastike nga të tjerët.

Megjithatë, shumë ekspertë besojnë se jemi afër arritjes së AGI. Zhvilluesit kanë sugjeruar që, për herë të parë, ata të dinë se cilat detyra teknike kërkohen për të arritur qëllimin.

AGI nuk do të qëndrojë vetëm në fantashkencë përgjithmonë. Më në fund do të jetë me ne, dhe ka të ngjarë më shpejt nga sa mendojmë.

2: Tashmë duhet të shqetësohemi për teknologjitë aktuale të AI

Duke pasur parasysh që rreziqet më të rënda diskutohen shpesh në lidhje me AGI, shpesh ekziston një besim i gabuar se nuk duhet të shqetësohemi shumë për rreziqet që lidhen me AI "të ngushtë" bashkëkohore.

Megjithatë, teknologjitë aktuale të AI tashmë po shkaktojnë dëm të konsiderueshëm për njerëzit dhe shoqërinë. Kjo përfshin përmes mekanizmave të dukshëm si përplasjet fatale rrugore dhe të aviacionit, luftërat, incidentet kibernetike dhe madje edhe inkurajimin e vetëvrasjeve.

Sistemet e AI kanë shkaktuar gjithashtu dëm në mënyra më të zhdrejtë, si ndërhyrja në zgjedhje, zëvendësimi i punës njerëzore, vendimmarrja e njëanshme, falsifikimet e thella dhe dezinformata dhe dezinformata.

Sipas AI Incident Tracker të MIT, dëmet e shkaktuara nga teknologjitë aktuale të AI janë në rritje. Ekziston një nevojë kritike për të menaxhuar teknologjitë aktuale të AI, si dhe ato që mund të shfaqen në të ardhmen.

3: Teknologjitë bashkëkohore të AI janë 'më të zgjuara' nga sa mendojmë

Një mit i tretë është se teknologjitë aktuale të AI nuk janë në fakt aq të zgjuara dhe për këtë arsye janë të lehta për t'u kontrolluar. Ky mit shihet më shpesh kur diskutohet për modelet e mëdha të gjuhës (LLM) pas chatbots si ChatGPT, Claude dhe Gemini.

Ka shumë debate rreth asaj se si të përcaktohet saktësisht inteligjenca dhe nëse teknologjitë e AI janë vërtet inteligjente, por për qëllime praktike këto janë çështje anësore që shpërqendrojnë. Mjafton që sistemet e AI të sillen në mënyra të papritura dhe të krijojnë rreziqe të paparashikuara.

Për shembull, teknologjitë ekzistuese të AI-së janë gjetur të përfshihen në sjellje që shumica e njerëzve nuk do t'i prisnin nga entitete jo inteligjente. Këto përfshijnë mashtrimin, marrëveshjen e fshehtë, hakerimin dhe madje veprimin për të siguruar ruajtjen e tyre.

Nëse këto sjellje janë dëshmi e inteligjencës është një pikë e diskutueshme. Sjelljet mund të shkaktojnë dëm për njerëzit në çdo mënyrë.

Ajo që ka rëndësi është që ne kemi kontrolle për të parandaluar sjelljet e dëmshme. Ideja se "AI është memec" nuk po i ndihmon askujt.

4: Nuk mjafton vetëm rregullimi

Shumë njerëz të shqetësuar për sigurinë e AI kanë mbrojtur rregullat e sigurisë së AI.

Vitin e kaluar, Akti i AI i Bashkimit Evropian, që përfaqëson ligjin e parë në botë për AI, u vlerësua gjerësisht. Ai u ndërtua mbi parimet tashmë të vendosura të sigurisë së AI për të ofruar udhëzime rreth sigurisë dhe rrezikut të AI.

Ndërsa rregullimi është thelbësor, nuk është gjithçka që kërkohet për të siguruar që AI është i sigurt dhe i dobishëm. Rregullorja është vetëm një pjesë e një rrjeti kompleks kontrollesh të nevojshme për të mbajtur të sigurt AI.

Këto kontrolle do të përfshijnë gjithashtu kodet e praktikës, standardet, kërkimin, edukimin, trajnimin, matjen dhe vlerësimin e performancës, procedurat, kontrollet e sigurisë e privatësisë, raportimin e incidenteve dhe sistemet e të mësuarit, e më shumë. Akti i AI-së së BE-së është një hap në drejtimin e duhur, por ende kërkohet një punë e madhe për të zhvilluar mekanizmat e duhur të kërkuar për të siguruar funksionimin e tij.

5: Nuk ka të bëjë vetëm me AI

Miti i pestë dhe ndoshta më i rrënjosuri përqendrohet rreth idesë se teknologjitë e AI vetë krijojnë rrezik.

Teknologjitë e AI përbëjnë një komponent të një sistemi më të gjerë "socioteknik". Ka shumë komponentë të tjerë thelbësorë: njerëzit, teknologjitë e tjera, të dhënat, artefaktet, organizatat, procedurat e kështu me radhë.

Siguria varet nga sjellja e të gjithë këtyre komponentëve dhe ndërveprimet e tyre. Kjo filozofi e " të menduarit sistematik " kërkon një qasje të ndryshme ndaj sigurisë së AI.

Në vend që të kontrollojmë sjelljen e përbërësve individualë të sistemit, ne duhet të menaxhojmë ndërveprimet dhe vetitë emergjente.

Me agjentët e AI në rritje sistemet e AI me më shumë autonomi dhe aftësi për të kryer më shumë detyra ndërveprimet midis teknologjive të ndryshme të AI do të bëhen gjithnjë e më të rëndësishme.

Aktualisht, ka pasur pak punë për të shqyrtuar këto ndërveprime dhe rreziqet që mund të lindin në sistemin më të gjerë socioteknik në të cilin përdoren teknologjitë e AI. Kontrollet e sigurisë së AI janë të nevojshme për të gjitha ndërveprimet brenda sistemit, jo vetëm për vetë teknologjitë e AI.

Siguria e AI është padyshim një nga sfidat më të rëndësishme me të cilat përballen shoqëritë tona. Për të arritur diku në adresimin e tij, do të na duhet një kuptim i përbashkët i rreziqeve reale.

/Motilokal.com