AI saugos diskusijų pabaiga
Ilgus metus aistringas tyrėjų, etikos ir politikos formuotojų kontingentas perspėjo apie galimą nepatikrinto dirbtinio intelekto plėtros pavojų. Jie ginčijosi dėl P (likimo) tikimybių, AI suderinimo strategijų ir taisyklių, galinčių užkirsti kelią katastrofai. Tačiau iki šiol tas pokalbis žlugo.
„Frontier AI“ kompanijos – openai, antropiniai, „Google Deepmind“ ir kitos – visiškai pakeitė pavaras. Jie nebegalioja apie AI progreso pristabdymą ar kruopščiai vertinant egzistencinę riziką. Vietoj to, jie lenktyniauja norėdami išleisti vis labiau pažengusius modelius, o pagrindinis dėmesys yra vienas dalykas: vienas dalykas: dominavimas. PG sauga kadaise buvo pagrindinė pokalbio dalis; Dabar tai šiek tiek daugiau nei PR išnaša.
Taigi, kas nutinka dabar?
PG kaina sumažėja iki nulio
Vienas iš labiausiai nepastebimų AI pagreičio aspektų yra sparčiai mažėjančios mokymo ir išvados išlaidos. Vos prieš kelerius metus mokant moderniausią AI modelį, reikalavo milijardų dolerių skaičiavimo išteklių. Šiandien atvirojo kodo modeliai gali būti tiksliai suderinti su vartotojų GPU už nedidelę dalį išlaidų.
Ne tik tai, bet ir API pagrįsta prieiga prie galingiausių AI sistemų per mėnesį tampa pigesnė. Tai, kas anksčiau kainavo šimtus ar tūkstančius dolerių, kad būtų sukurta aukštos kokybės tekstas, vaizdai ir vaizdo įrašas, dabar kainuoja centus arba nieko. Bendrovės agresyviai mažina kainas, kad galėtų konkuruoti, o naujos efektyvumo naujovės (pvz., Geresnis kvantizavimas ir aparatūros pagreitis) kiekvienam, bet kur, bet kur, panaudoja galingus AI įrankius.
Jei AI kadaise buvo elitinių tyrimų laboratorijų sritis, tai dabar yra prekė. Tai daro didžiulę įtaką saugumo, darbo rinkoms ir galios pusiausvyrai visame pasaulyje.
Kinijos AI revoliucija, nepaisant GPU apribojimų
Jungtinės Valstijos sunkiai dirbo, kad apribotų Kinijos galimybes naudotis pažangiais GPU, nustatydamos eksporto apribojimus pažangiausiems AI lustai, tokiems kaip NVIDIA A100 ir H100. Tikimasi, kad apribojant aparatinę įrangą, Kinijos AI ambicijos bus sulėtėjusi.
Ši strategija nepavyko įspūdingai. Kinijos tyrimų laboratorijos ir įmonės sugalvojo, kaip kurti ir treniruotis pajėgus AI modelius net su mažiau galingais GPU ar šaltiniais ribojamais GPU per kitus kanalus. Kai kurie naudoja didžiules senesnės aparatinės įrangos grupes, o kiti turi optimizuotą programinės įrangos krūvas, kad išspaustų kiekvieną energijos tiekimą iš riboto skaičiavimo. Kinija taip pat padidino savo vidaus lustų gamybą ir, nors ji vis dar atsilieka nuo „Nvidia“, „Raw Performance“, atotrūkis greitai uždaromas.
Rezultatas? AI ginklų lenktynės dabar yra visiškai globalios. Idėja, kad Vakarai gali „suvaldyti“ PG vystymąsi, visada buvo naivi, tačiau dabar ji yra visiškai juokinga.
Blogi aktoriai ir AI varomi sukčiai
Jei PG saugos pokalbis išnyko iš įmonių posėdžių salės, jis tikrai neišnyko iš kibernetinių kriminalinių tinklų. Kenkėjiški aktoriai vis labiau sudėtingesni naudojasi AI:
Automatizuotos sukčių robotai Gali apsimesti realiais žmonėmis, surengti natūralius pokalbius ir socialiai inžinierių aukas kur kas efektyviau nei tradiciniai sukčiavimo el. Laiškai.
AI sukurtas sukčiavimas „Deepfake“ vaizdo įrašų, balso sintezės ir hiperrealistiškų padirbtų tapatybių, kurios gali apeiti patikrinimo sistemas, pavidalu.
AI-patobulintos įsilaužimo įrankiai Tai automatizuoja žvalgybą, išnaudoja atradimą ir puolių vykdymą precedento neturinčiu greičiu.
Kadangi AI kaina ir toliau mažėja, šios priemonės tampa prieinamos žemesnio lygio nusikaltėliams, o ne tik tautinės valstybės veikėjams. Gynyba nuo AI orientuotų kibernetinių grėsmių vos neatsilieka, ir daugeliu atvejų jos praranda pagrindą.
Darbo rinka žlunga pagal AI sukurtą turinį
Pasakojimas, kad AI tik „padidins“ žmogaus darbą, o ne jį pakeistų, greitai subyrės. AI sukurtas turinys-ar tekstas, vaizdai, vaizdo įrašas ar net programinės įrangos kodas-greitai pasenęs daugelį tradicinių vaidmenų.
Iki šiol pramonės šakos pasiekė sunkiausiai:
Copywriting ir žurnalistika: PG gali generuoti nuoseklius, įtraukiančius straipsnius mastu, todėl daugybė rašymo darbų nereikalingų.
Grafinis dizainas ir iliustracija: PG įrankiai gali sukelti aukštos kokybės vaizdus per kelias sekundes, neslėpdami laisvai samdomų menininkų ir dizainerių.
Klientų aptarnavimas: AI maitinami pokalbių programos keičia žmonių agentus palaikymo vaidmenyse, ir jie gerėja kiekvieną dieną.
Vaizdo įrašų kūrimas: AI sukurtas vaizdo įrašų turinys gerėja iki to laiko, kai galima atlikti visas reklamas, pristatymus ir net pramogų klipus, naudojant minimalią žmogaus intervenciją.
Ir tai tik pradžia. PG modeliai greitai vystosi, o įmonės mato automatizavimo sąnaudų naudą. Pažadai, kad „nauji darbai pakeičia senus“ atrodo vis niūresnis, nes AI galimybės ir toliau plečiasi.
Taigi, kas nutinka dabar?
Genie yra iš buteliuko, ir jo negrąžina. PG sauga tapo galingesnių sistemų lenktynėmis. Vyriausybės daugiausia žaidžia pasivijimą, blogi veikėjai jau naudojasi visapusiškai iš AI, o visos pramonės šakos realiuoju laiku yra perkeliamos.
Yra keletas galimų artimiausių ateityje scenarijų:
Reguliavimo susidorojimas (per mažai, per vėlu?) Vyriausybės ilgainiui gali įvesti griežtus PG taisykles, tačiau iki to laiko, kai jos tai padarys, PG plėtra bus peržengusi jų galimybes prasmingai ją kontroliuoti. PG modeliai jau yra atviro kodo, o mokymo būdai yra plačiai žinomi. Reglamentai greičiausiai bus susiję su AI sukurtos dezinformacijos, saugumo reikalavimų ir galbūt licencijavimo reikalavimų AI kūrėjams apribojimais, tačiau vykdymas bus sudėtingas.
AI burbulas sprogsta (arba to nėra) Kai kurie teigia, kad AI galiausiai pasieks mažėjančią grąžą, o hipe mirs. Tačiau net jei mes pasiekėme plokščiakalnį modelio galimybėse, esamos technologijos jau yra pakankamai žlugdanti, kad nuolat keičia ekonominę aplinką. Nėra „grįžti“ į pasaulį, kuriame AI nėra visur esanti verslo ir saugumo problemos.
Pagreitis į AGI (ir tada?) Daugelis AI kompanijų atvirai siekia dirbtinio bendrojo intelekto (AGI) – sistemos, kuri gali pagrįsti ir mokytis kaip žmogus. Jei jiems pasiseks, visi statymai yra išjungti. Supertelligentinė AI galėtų pakeisti civilizaciją tokiu būdu, kokio negalime numatyti, geriau ar blogiau.
PG sauga, kaip pagrindinis rūpestis, yra miręs. Lieka AI ginklų varžybos tarp korporacijų, vyriausybių ir blogų veikėjų, turinčių mažai priežiūros ir greitai mažėjančias išlaidas. Dabar esame nenusakytoje teritorijoje, kur AI tampa pagrindine jėga, formuojančia visuomenę kiekviename lygmenyje.
Taigi, kas nutiks toliau? Niekas tikrai nežino. Tačiau akivaizdu, kad mes jau einame į sulėtėjimą.
