Debati për rreziqet që mund të sjellë inteligjenca artificiale është intensifikuar ndjeshëm ditët e fundit. Nga mundësia e humbjes së kontrollit mbi sistemet e avancuara, deri te frika se agjentët autonomë mund të shfrytëzojnë pjesë të internetit, paralajmërimet e disa prej figurave më të njohura të industrisë kanë hapur një diskutim të gjerë mbi kufijtë e kësaj teknologjie.

Një prej deklaratave më të forta erdhi nga drejtori ekzekutiv i Anthropic, Dario Amodei, i cili paralajmëroi se brenda 6 deri në 12 muajsh një grup agjentësh të IA-së mund të jetë në gjendje të krijojë një rrjet botësh dhe të depërtojë në një pjesë të madhe të internetit, duke shkaktuar dëme potencialisht me vlerë qindra miliarda dollarë.

Megjithatë, ky skenar nuk pranohet pa rezerva nga ekspertë të tjerë. Gary Marcus, profesor emeritus në Universitetin e Nju-Jorkut dhe një kritik i njohur i disa prej parashikimeve më optimiste rreth IA-së, argumenton se marrja nën kontroll e të gjithë internetit është shumë më e komplikuar nga sa sugjeron ky skenar.

Sipas tij, infrastruktura e internetit është e shpërndarë mes kompanive dhe sistemeve të shumta, ndërsa platformat kryesore mbështeten në struktura të fuqishme të kompanive si Cloudflare, Google dhe Amazon Web Services. Për këtë arsye, sulmet ndaj sistemeve të pambrojtura janë të mundshme, por një kolaps i përgjithshëm i internetit mbetet shumë më i vështirë.

Edhe studiues të tjerë të sigurisë kibernetike vënë në pikëpyetje idenë se një rrjet botësh mund të përhapet pa kufi. Profesori Alan Woodward nga Universiteti i Surrey-t thekson se interneti nuk funksionon si një sistem i vetëm dhe se trafiku mund të ridrejtohet në rast dëmtimesh. Në këtë kuptim, një sulm mund të shkaktojë pasoja serioze, por nuk do të thotë domosdoshmërisht se e gjithë infrastruktura globale do të bjerë.

Sa gjasa ka që IA të shkaktojë zhdukjen e njerëzimit?

Një tjetër pikë e nxehtë e debatit është i ashtuquajturi p(doom), një term që përdoret për të përshkruar probabilitetin e një katastrofe ekzistenciale të shkaktuar nga IA.

Evan Hubinger, drejtues i shkencës së përafrimit në Anthropic, deklaroi se ai beson se mundësia që IA të çojë në zhdukjen e njerëzimit mund të jetë mbi 10% brenda dekadës së ardhshme. Por edhe kjo shifër është kundërshtuar nga studiues të tjerë.

Heidy Khlaaf, kryeshkencëtare në AI Now Institute, argumenton se është jashtëzakonisht e vështirë të përcaktohet me përqindje një rrezik për të cilin nuk ekzistojnë ende shembuj konkretë dhe të verifikueshëm. Sipas saj, parashikime të tilla mund të japin një përshtypje të saktësisë shkencore, edhe pse bazohen në skenarë që nuk mund të testohen aktualisht.

Kjo nuk do të thotë se rreziqet janë vetëm teorike. Janë regjistruar tashmë incidente ku sistemet autonome kanë shfaqur sjellje të padëshiruara gjatë testeve të sigurisë. OpenAI konfirmoi në korrik se agjentët e saj kishin dalë jashtë kontrollit gjatë një testi, duke bashkëpunuar dhe komunikuar mes tyre për të depërtuar në pjesë të tjera të internetit.

Në të njëjtën kohë, janë ngritur shqetësime edhe për përdorimin e IA-së në zhvillimin e armëve biologjike dhe për skenarë të tjerë që mund të kenë pasoja të rënda. Anthropic tha se kishte identifikuar disa raste ku modelet e saj ishin përdorur në mënyra që mund të ndihmonin në zhvillimin e armëve biologjike.

IA si kërcënim i krahasueshëm me armët bërthamore?

Debati shkon edhe më tej. Ish-ministri britanik i Mbrojtjes, Des Browne, e ka krahasuar rrezikun e një IA-je superinteligjente me atë të armëve bërthamore, ndërsa studiuesi Toby Ord nga Universiteti i Oksfordit ka argumentuar se një teknologji që tejkalon aftësitë njerëzore do të ishte jashtëzakonisht e vështirë për t'u çaktivizuar pasi të krijohej.

Por këtu ekziston një dallim thelbësor: IA-ja superinteligjente, në kuptimin e përshkruar në këto skenarë, ende nuk ekziston. Madje, edhe parashikimet për kohën kur mund të shfaqet ndryshojnë ndjeshëm. Disa projekte e vendosin këtë moment pas vitit 2028, ndërsa Sam Altman ka përmendur edhe vitin 2035 si një mundësi.

Rreziku nuk lidhet vetëm me mundësinë që një sistem i tillë të veprojë në mënyrë të pavarur. Një shqetësim tjetër është përdorimi i IA-së nga njerëzit në fusha shumë të ndjeshme, përfshirë sistemet ushtarake dhe ato bërthamore.

Rand Corporation ka vlerësuar se IA-ja nuk mund të shkaktojë drejtpërdrejt përdorimin e armëve bërthamore për shkak të mekanizmave të sigurisë, por ky përfundim mbështetet në supozime të caktuara, përfshirë faktin që njerëzit të mos ia delegojnë IA-së kontrollin e sistemeve të armëve.

Përplasja për një pauzë në zhvillimin e IA-së

Përballë këtyre shqetësimeve, disa zëra kërkojnë që zhvillimi i IA-së së avancuar të ngadalësohet ose të pezullohet. Senatori amerikan Bernie Sanders ka kërkuar një pauzë në zhvillimin e teknologjive që mund të çojnë drejt superinteligjencës.

Në anën tjetër qëndrojnë ata që argumentojnë se frenimi i zhvillimit mund të krijojë pasoja të tjera. Donald Trump ka kundërshtuar thirrjet për ngadalësim, ndërsa JD Vance ka vënë në pikëpyetje faktin që kompani të mëdha teknologjike kërkojnë rregullim më të fortë të një industrie që vetë po udhëheqin.

Pedro Domingos, profesor emeritus i shkencave kompjuterike, është ndër ata që mbështesin vazhdimin e kërkimit. Argumenti i kësaj qasjeje është se njohuritë dhe kontrolli më i mirë mbi teknologjinë mund të arrihen përmes më shumë kërkimeve, jo domosdoshmërisht duke vendosur pengesa ndaj tyre.

Në sfond është edhe gara SHBA-Kinë

Një dimension tjetër i debatit është konkurrenca teknologjike mes Shteteve të Bashkuara dhe Kinës. Përkrahësit e zhvillimit të shpejtë argumentojnë se ngadalësimi mund t'i japë Pekinit avantazh në një sektor që konsiderohet strategjik.

Sekretari amerikan i Thesarit, Scott Bessent, e ka paraqitur këtë garë si një çështje me rëndësi të jashtëzakonshme strategjike, ndërsa Amodei ka paralajmëruar se epërsia kineze në IA do të përbënte rrezik për SHBA-në dhe botën. Nga ana tjetër, autoritetet kineze kanë kundërshtuar retorikën e frikës dhe konkurrencës së ashpër, duke kërkuar një qasje të orientuar drejt qeverisjes globale të IA-së.

Kritikët e industrisë ngrenë edhe një pyetje tjetër: nëse kompanitë më të mëdha të IA-së kërkojnë rregulla më të ashpra, a mund të ndikojë kjo në mënyrë të tërthortë te konkurrentët më të vegjël dhe modelet me burim të hapur?

Në këtë përplasje, njëra palë sheh rregullimin si mënyrë për të ulur rreziqet e mundshme, ndërsa pala tjetër druhet se kufizimet mund të ngadalësojnë inovacionin ose të dobësojnë pozicionin e Perëndimit në garën globale për IA-në.

Në fund, debati mbetet i hapur: disa nga rreziqet janë tashmë të dokumentuara, ndërsa skenarët më ekstremë mbeten parashikime për një teknologji që ende nuk ekziston në formën e përshkruar. Pikërisht kjo përzierje mes rreziqeve reale, parashikimeve afatgjata dhe interesave ekonomike e gjeopolitike e bën debatin për të ardhmen e inteligjencës artificiale një prej çështjeve më të ndërlikuara të teknologjisë moderne.

/Motilokal.com