'Kumbari i AI' largohet nga Google dhe paralajmëron për rrezikun përpara
Geoffrey Hinton ishte një pionier i inteligjencës artificiale. Në vitin 2012, Dr. Hinton dhe dy nga studentët e tij të diplomuar në Universitetin e Torontos krijuan teknologjinë që u bë themeli intelektual për sistemet e AI që kompanitë më të mëdha të industrisë së teknologjisë besojnë se është një çelës për të ardhmen e tyre.
Të hënën, megjithatë, ai u bashkua zyrtarisht me një kor në rritje kritikësh që thonë se ato kompani po garojnë drejt rrezikut me fushatën e tyre agresive për të krijuar produkte të bazuara në inteligjencën artificiale gjeneruese, teknologjia që fuqizon chatbot-et e njohura si ChatGPT.
Dr. Hinton tha se ai ka lënë punën e tij në Google, ku ai ka punuar për më shumë se dekadë dhe është bërë një nga zërat më të respektuar në këtë fushë, kështu që ai mund të flasë lirisht për rreziqet e AI Një pjesë e tij, tha ai. , tani i vjen keq për veprën e jetës së tij.
"Unë ngushëlloj veten me justifikimin normal: nëse nuk do ta kisha bërë, dikush tjetër do ta bënte," tha Dr. Hinton gjatë një interviste të gjatë javën e kaluar në dhomën e ngrënies së shtëpisë së tij në Toronto, një shëtitje të shkurtër nga vendi ku ai dhe ai dhe ai studentët e tij bënë përparimin e tyre.
Udhëtimi i Dr. Hinton nga themeluesi i inteligjencës artificiale deri te ai që do të vuajë shënon një moment të jashtëzakonshëm për industrinë e teknologjisë, ndoshta në pikën e saj më të rëndësishme në dekada. Udhëheqësit e industrisë besojnë se sistemet e reja të inteligjencës artificiale mund të jenë po aq të rëndësishme sa prezantimi i shfletuesit të internetit në fillim të viteve 1990 dhe mund të çojë në përparime në fusha që variojnë nga kërkimi i drogës tek arsimi.
Por brejtja e shumë njerëzve të brendshëm të industrisë është një frikë se ata po lëshojnë diçka të rrezikshme në natyrë. Inteligjenca artificiale gjeneruese tashmë mund të jetë një mjet për keqinformim. Së shpejti, mund të jetë një rrezik për vendet e punës. Diku më poshtë, thonë shqetësimet më të mëdha të teknologjisë, mund të jetë një rrezik për njerëzimin.
"Është e vështirë të shihet se si mund t'i parandaloni aktorët e këqij që ta përdorin atë për gjëra të këqija," tha Dr. Hinton.
Pasi start-up-i OpenAI në San Francisko lëshoi një version të ri të ChatGPT në mars , më shumë se 1,000 udhëheqës të teknologjisë dhe studiues nënshkruan një letër të hapur duke kërkuar një moratorium gjashtë-mujor mbi zhvillimin e sistemeve të reja, sepse teknologjitë e AI paraqesin "rreziqe të thella për shoqërinë. dhe njerëzimi.”
Disa ditë më vonë, 19 drejtues aktualë dhe ish-udhëheqës të Shoqatës për Avancimin e Inteligjencës Artificiale, një shoqëri akademike 40-vjeçare, lëshuan letrën e tyre duke paralajmëruar për rreziqet e AI. Në këtë grup përfshihej Eric Horvitz, shefi shkencor në Microsoft e cila ka vendosur teknologjinë e OpenAI në një gamë të gjerë produktesh, duke përfshirë motorin e saj të kërkimit Bing .
Dr. Hinton, i quajtur shpesh "Kumbari i AI", nuk nënshkroi asnjërën nga ato letra dhe tha se nuk donte të kritikonte publikisht Google ose kompani të tjera derisa të linte punën e tij. Ai njoftoi kompaninë muajin e kaluar se po jepte dorëheqjen dhe të enjten, ai foli me telefon me Sundar Pichai, shefin ekzekutiv të kompanisë mëmë të Google, Alphabet. Ai nuk pranoi të diskutonte publikisht detajet e bisedës së tij me zotin Pichai.
Shkencëtari kryesor i Google, Jeff Dean, tha në një deklaratë: "Ne mbetemi të përkushtuar ndaj një qasjeje të përgjegjshme ndaj AI. Ne vazhdimisht po mësojmë të kuptojmë rreziqet në zhvillim, ndërsa gjithashtu inovojmë me guxim."
Dr. Hinton, një emigrant britanik 75-vjeçar, është një akademik gjatë gjithë jetës, karriera e të cilit u drejtua nga bindjet e tij personale rreth zhvillimit dhe përdorimit të AI Në vitin 1972, si student i diplomuar në Universitetin e Edinburgut, Dr. Hinton përqafoi një ideja e quajtur një rrjet nervor. Një rrjet nervor është një sistem matematikor që mëson aftësitë duke analizuar të dhënat. Në atë kohë, pak studiues besonin në këtë ide. Por ajo u bë vepër e jetës së tij.
Në vitet 1980, Dr. Hinton ishte profesor i shkencave kompjuterike në Universitetin Carnegie Mellon, por u largua nga universiteti për në Kanada sepse tha se nuk kishte dëshirë të merrte fondet e Pentagonit. Në atë kohë, shumica e kërkimeve të AI në Shtetet e Bashkuara financoheshin nga Departamenti i Mbrojtjes. Dr. Hinton është thellësisht kundër përdorimit të inteligjencës artificiale në fushën e betejës – atë që ai i quan “ushtarë robotë”.
Në vitin 2012, Dr. Hinton dhe dy nga studentët e tij në Toronto, Ilya Sutskever dhe Alex Krishevsky, ndërtuan një rrjet nervor që mund të analizonte mijëra foto dhe të mësonte veten të identifikonte objekte të zakonshme, si lulet, qentë dhe makinat.
Google shpenzoi 44 milionë dollarë për të blerë një kompani të themeluar nga Dr. Hinton dhe dy studentët e tij. Dhe sistemi i tyre çoi në krijimin e teknologjive gjithnjë e më të fuqishme, duke përfshirë chatbot të rinj si ChatGPT dhe Google Bard . Z. Sutskever vazhdoi të bëhej shkencëtar kryesor në OpenAI. Në vitin 2018, Dr. Hinton dhe dy bashkëpunëtorë të tjerë për një kohë të gjatë morën çmimin Turing , i quajtur shpesh "Çmimi Nobel i informatikës", për punën e tyre në rrjetet nervore.
Përafërsisht në të njëjtën kohë, Google, OpenAI dhe kompani të tjera filluan ndërtimin e rrjeteve nervore që mësonin nga sasi të mëdha teksti dixhital. Dr. Hinton mendonte se ishte një mënyrë e fuqishme për makinat për të kuptuar dhe gjeneruar gjuhën, por ishte inferiore ndaj mënyrës se si njerëzit e trajtonin gjuhën.
Më pas, vitin e kaluar, ndërsa Google dhe OpenAI ndërtuan sisteme duke përdorur sasi shumë më të mëdha të dhënash, pikëpamja e tij ndryshoi. Ai ende besonte se sistemet ishin inferiore ndaj trurit të njeriut në disa mënyra, por ai mendonte se ato po eklipsonin inteligjencën njerëzore në të tjerat. "Ndoshta ajo që po ndodh në këto sisteme," tha ai, "është në fakt shumë më mirë se ajo që po ndodh në tru."
Ndërsa kompanitë përmirësojnë sistemet e tyre të AI, beson ai, ato bëhen gjithnjë e më të rrezikshme. "Shikoni se si ishte pesë vjet më parë dhe si është tani," tha ai për teknologjinë AI. “Merre ndryshimin dhe përhape atë përpara. Kjo është e frikshme.”
Deri vitin e kaluar, tha ai, Google veproi si një "kujdestar i duhur" për teknologjinë, i kujdesshëm që të mos lëshonte diçka që mund të shkaktonte dëm. Por tani që Microsoft ka shtuar motorin e tij të kërkimit Bing me një chatbot - duke sfiduar biznesin kryesor të Google - Google po garon për të vendosur të njëjtin lloj teknologjie . Gjigantët e teknologjisë janë të mbyllur në një konkurrencë që mund të jetë e pamundur të ndalet, tha Dr. Hinton.
Shqetësimi i tij i menjëhershëm është se interneti do të vërshohet me foto , video dhe tekste të rreme dhe një person mesatar "nuk do të jetë në gjendje të dijë më se çfarë është e vërtetë".
Ai është gjithashtu i shqetësuar se teknologjitë e AI me kalimin e kohës do të përmbysin tregun e punës. Sot, chatbot-et si ChatGPT priren të plotësojnë punëtorët njerëzorë, por ata mund të zëvendësojnë paralegalët, asistentët personalë, përkthyesit dhe të tjerët që merren me detyra të zakonshme. "Kjo e heq punën e rëndë," tha ai. "Mund të marrë më shumë se kaq."
Rrugës, ai është i shqetësuar se versionet e ardhshme të teknologjisë përbëjnë një kërcënim për njerëzimin, sepse ata shpesh mësojnë sjellje të papritura nga sasitë e mëdha të të dhënave që analizojnë . Kjo bëhet një problem, tha ai, pasi individët dhe kompanitë lejojnë sistemet e AI jo vetëm të gjenerojnë kodin e tyre kompjuterik, por në fakt e ekzekutojnë atë kod vetë. Dhe ai i frikësohet një dite kur armët vërtet autonome – ata robotë vrasës – bëhen realitet.
“Ideja se këto gjëra në fakt mund të bëhen më të zgjuar se njerëzit – disa njerëz e besuan këtë,” tha ai. “Por shumica e njerëzve menduan se ishte shumë larg. Dhe mendova se ishte shumë larg. Mendova se ishte 30 deri në 50 vjet apo edhe më larg. Natyrisht, nuk e mendoj më këtë.”
Shumë ekspertë të tjerë, duke përfshirë shumë studentë dhe kolegë të tij, thonë se ky kërcënim është hipotetik. Por Dr. Hinton beson se gara midis Google dhe Microsoft dhe të tjerëve do të përshkallëzohet në një garë globale që nuk do të ndalet pa një lloj rregullimi global.
Por kjo mund të jetë e pamundur, tha ai. Ndryshe nga armët bërthamore, tha ai, nuk ka asnjë mënyrë për të ditur nëse kompanitë apo vendet po punojnë në teknologji në fshehtësi. Shpresa më e mirë është që shkencëtarët kryesorë të botës të bashkëpunojnë për mënyrat e kontrollit të teknologjisë. "Unë nuk mendoj se ata duhet ta rrisin këtë më shumë derisa të kenë kuptuar nëse mund ta kontrollojnë atë," tha ai.
Dr. Hinton tha se kur njerëzit e pyesnin se si mund të punonte në teknologjinë që ishte potencialisht e rrezikshme, ai do të parafrazonte Robert Oppenheimer, i cili udhëhoqi përpjekjet e SHBA për të ndërtuar bombën atomike: “Kur shihni diçka që është teknikisht e ëmbël, ju vazhdo dhe bëje atë.”
Nuk e thotë më këtë.
Burimi: DNYUZ
Përgjigju Duke Cituar
Krijoni Kontakt