ԱԲ վարժեցնողներն ընդդեմ ԱԲ-ի՞. OpenAI-ն ու Anthropic-ն առաջարկում են դանդաղեցնել տեմպը, Թրամփն ու Չինաստանը դեմ են

Ի վերջո՝ արհեստական բանականությունը կփոխարինի՞ մեզ, կաշխատի՞ մեր փոխարեն, կդառնա՞ մեր մրցակիցը, թե՞ այդ ամենը խիստ չափազանցված է։ ԱԲ զարգացման շուրջ մռայլ կանխատեսումներն ամենևին էլ նոր երևույթ չեն, բայց վերջին շաբաթներին տեխնոլոգիայի զարգացումը դանդաղեցնելու անհրաժեշտության մասին խոսակցությունները զգալիորեն ակտիվացել են։ Ու հարցն այն է, որ այս անգամ հե՜նց ԱԲ ստեղծողներն ու «վարժեցնողներն» են խիստ հոռետեսական ու վախեցած կանխատեսումներ անում։

Ինչ են ասում տեխնոլոգիական հսկաները

Anthropic-ի ղեկավարը, արհեստական բանականության հնարավոր վտանգների շուրջ քննարկումների ֆոնին, առաջարկել է դանդաղեցնել տեխնոլոգիայի զարգացման տեմպերը։ Նրա դիրքորոշմանը միացել են նաև ոլորտի այլ առաջատարներ։ Այսինքն՝ ոլորտի զարգացմանը նպաստող հսկաներից մի քանիսը բացահայտ կոչ են անում հնարավոր վտանգներից խուսափելու համար դանդաղեցնել ԱԲ-ի զարգացումը։

Դրան նախորդել էին OpenAI-ի և Anthropic-ի ԱԲ գործակալների հետ կապված միջադեպերը։ Դրանք դուրս էին եկել վերահսկողությունից և կոտրել Hugging Face հարթակի, ինչպես նաև մի քանի այլ ընկերությունների ենթակառուցվածքները։ Դեռ հուլիսի վերջին էլ խոշորագույն ԱԲ ընկերությունների ավելի քան 1000 աշխատակից ստորագրել էր մի խնդրագիր՝ առաջարկելով ստեղծել մեխանիզմ, որն անհրաժեշտության դեպքում թույլ կտար դանդաղեցնել ամենահզոր համակարգերի մշակման տեմպերը։

Anthropic-ից էլ հեռացել էր հետազոտող Ջեյքոբ Քոքսոնը, որը զբաղվում էր մեծածավալ տվյալների միջոցով նոր ԱԲ մոդելների ուսուցմամբ։ Նա հրապարակայնորեն հայտարարել էր, որ լքում է ընկերությունը, քանի որ չի ցանկանում մասնակցել այնպիսի «գերբանականության» ստեղծմանը, որը կարող է դուրս գալ մարդկանց վերահսկողությունից։

OpenAI-ի գիտական ղեկավար Յակուբ Պախոցկին ևս ընկերության կայքում գրել էր, որ ԱԲ-ի զարգացման այս փուլում «ծայրահեղ զգուշավորության ժամանակն է»։ OpenAI-ն իր հերթին հայտարարել է, որ վերջերս անվտանգության հետ կապված մտահոգությունների պատճառով դանդաղեցրել է որոշ մոդելների մշակումը։

Սեպտեմբերի 12-ին Anthropic-ի՝ Claude լեզվային մոդելը ստեղծած ընկերության ղեկավար Դարիո Ամոդեին հրապարակեց էսսե, որտեղ կոչ էր անում դանդաղեցնել արհեստական բանականության զարգացման տեմպերը։ Նրա կարծիքով՝ ԱԲ-ն զարգանում է չափազանց արագ, և հետազոտողները պարզապես չեն հասցնում ապահովել այդ զարգացման անվտանգությունը։ Ամոդեին, ի թիվս այլ առաջարկների, նշել էր, որ անկախ աուդիտորները պետք է վերահսկեն ԱԲ լաբորատորիաների աշխատանքն անվտանգության ոլորտում։ Նա նաև առաջարկել էր, որ կարգավորող մարմիններն ընկերություններին թույլ տան համատեղ մշակել և համակարգել անվտանգության չափանիշները։

Anthropic-ի ղեկավարը ԱԲ-ի զարգացման տեմպերը դանդաղեցնելու հիմնական խոչընդոտներից մեկը համարել է Չինաստանի հետ մրցակցությունը և կոչ արել սահմանափակել առաջատար չիպերի վաճառքն այդ երկրին։ Ամոդեիի առաջարկին միացել են նաև ոլորտի այլ ղեկավարներ։

OpenAI-ի ղեկավար Սեմ Ալթմանը, SpaceX-ի և xAI-ի գլխավոր տնօրեն Իլոն Մասկը, ինչպես նաև Google DeepMind-ի ղեկավար Դեմիս Հասաբիսը հայտարարել են, որ համաձայն են ԱԲ-ի զարգացման տեմպերը նվազեցնելու անհրաժեշտության հետ։ Մի խոսքով՝ ամեն ինչ, կարծես, շատ ավելի լուրջ է, քան մենք պատկերացնում էինք։ Եվ գուցե առաջին անգամ դավադրության տեսությունները կանխատեսվող ապագային ավելի մոտ են, քան կանխատեսելի ու առաջին հայացքից տրամաբանական սցենարները։

Քննադատների հակափաստարկը

Բայց ամեն բան այդքան միանշանակ չէ։ Այլ տեխնոլոգիական ընկերությունների ղեկավարներ կասկածի տակ են դրել Ամոդեիի առաջարկի իրական նպատակները։ Նրանց կարծիքով՝ նա չափազանցնում է ԱԲ-ի վտանգները՝ փորձելով առաջատար ընկերություններին պաշտպանել պատասխանատվությունից և մրցակցությունից։ Որոշ քննադատներ ոլորտի խոշորագույն ընկերություններին նույնիսկ մեղադրել են «կարտել» ստեղծելու փորձի մեջ։

ԱՄՆ նախագահի տեխնոլոգիական հարցերով խորհրդական Դևիդ Սաքսը, որը նախկինում Սպիտակ տան ԱԲ-ի և կրիպտոարժույթների հարցերով պատասխանատուն էր և պարբերաբար քննադատում է Ամոդեիին, հայտարարել է, որ ոլորտի առաջատարներն առանց պետության միջամտության էլ կարող են ինքնուրույն սահմանափակել իրենց ԱԲ գործակալների զարգացման տեմպերը։

«Գերբանականություն չստեղծելու ամենապարզ ճանապարհը պարզապես պայմանավորվելն է այն չստեղծել։ Եթե ձեր դեռ չթողարկված մոդելներն այնքան են ձեզ վախեցնում, որ կարծում եք՝ անհրաժեշտ է դանդաղեցնել դրանց մշակումը, ես աջակցում եմ պատասխանատու վարքագիծ դրսևորելու ձեր որոշմանը։ Բայց դադարեք ձևացնել, թե դրա համար ձեզ ինչ-որ մեկի թույլտվությունն է պետք։ Դադարեք ձևացնել, թե հակամենաշնորհային օրենսդրությունը պետք է մի կողմ դրվի, որպեսզի կարողանաք կարտել ստեղծել։ Եվ ամենակարևորը՝ դադարեք ձևացնել, թե զարգացումը դանդաղեցնելու ձեր ցանկությունը միայն ալտրուիզմով է պայմանավորված»,- նշել է նա։

Սաքսի խոսքով՝ շուկան արդեն իսկ պատժում է այն ընկերություններին ու մոդելներին, որոնք անկանխատեսելի են գործում։ Նրա կարծիքով՝ Չինաստանը նույնպես մեծ հավանականությամբ չի միանա ԱԲ-ի զարգացման տեմպերը դանդաղեցնելու համաշխարհային համաձայնագրին։

Կանադական Cohere ԱԲ ստարտափի ղեկավար Էյդան Գոմեսն էլ գրել է.

Microsoft-ի գլխավոր տնօրեն Սաթյա Նադելան ավելի հավասարակշռված մոտեցման կոչ է արել։ Նրա խոսքով՝ մի կողմից անհրաժեշտ է արագացնել ԱԲ-ի զարգացումը և դրա առավելությունները հնարավորինս լայնորեն հասանելի դարձնել տարբեր երկրներին, համայնքներին ու ընկերություններին։ Մյուս կողմից՝ կարևոր է, որ մշակողները կարողանան լիարժեք վերահսկողություն պահպանել իրենց տեխնոլոգիաների նկատմամբ։ Նադելան կողմ է արտահայտվել արտաքին աուդիտի գաղափարին, բայց զգուշացրել է, որ ԱԲ տեխնոլոգիան «չպետք է հայտնվի մի քանի կազմակերպությունների վերահսկողության տակ»։

ԱՄՆ նախագահ Դոնալդ Թրամփն իր հերթին դեմ է արտահայտվել արհեստական բանականության զարգացումը դանդաղեցնելու կոչերին և տեխնոլոգիայի քննադատներին անվանել է «շատ բացասական ուժեր»։ Նրա խոսքով՝ Միացյալ Նահանգները ներկայում առաջ է Չինաստանից ԱԲ ոլորտում, և ինքը ցանկանում է, որ այդ պատկերը պահպանվի նաև ապագայում։ Մի խոսքով՝ տիպիկ «թրամփյան» դիրքորոշում։

Թրամփը նշել է նաև, որ անհրաժեշտության դեպքում Վաշինգտոնը կարող է լրացուցիչ սահմանափակումներ կիրառել ԱԲ ընկերությունների նկատմամբ, բայց, նրա կարծիքով, հոռետեսական վտանգներն ու ռիսկերը «չեն իրականանա»։

Չինաստանի պետական Global Times թերթն իր հերթին Anthropic-ի ղեկավարի առաջարկներն անվանել է «սառը պատերազմի մեթոդաբանություն»։ Քննարկմանը միացել է նույնիսկ Մեծ Բրիտանիայի թագավոր Չարլզ III։ Բուքինգհեմյան պալատը հայտնել է, որ նա հանդիպելու է տեխնոլոգիական ընկերությունների ղեկավարների հետ՝ քննարկելու, թե ինչպես կարելի է ԱԲ-ն օգտագործել «հասարակության բարօրության համար»։

Շոտլանդիայում նախատեսվող հանդիպմանը հրավիրվել են Nvidia-ի, Google-ի, DeepMind-ի, OpenAI-ի և Anthropic-ի բարձրաստիճան ղեկավարներ։ OpenAI-ը ներկայացնելու է ընկերության ֆինանսական տնօրեն Սառա Ֆրայերը։ Թե մյուս ընկերություններից կոնկրետ ովքեր կմասնակցեն հանդիպմանը, դեռ հայտնի չէ։

«ԱԲ-ն բոլորիս կսպանի» սցենարը չափազանցվա՞ծ է

Meduza.io-ն թեմայի վերաբերյալ իր հոդվածում հղում է անում տեխնոլոգիաների թեմայով Semafor-ի լրագրող Ռիդ Ալբերգոտին։ Նա նշում է, որ Ամոդեիի էսսեում ներկայացված առաջարկների մեծ մասն իրականում արդեն սովորական պրակտիկա է ԱԲ ընկերությունների համար։ Ընդ որում, նրա կարծիքով՝ ընկերությունները դա հիմնականում անում են ոչ թե բարոյական, այլ բիզնես շահերից ելնելով։

Ալբերգոտին չափազանցված է համարում նաև «արհեստական բանականությունը բոլորիս կսպանի» սցենարը։ Նա հիշեցնում է, որ ԱԲ մոդելները կախված են գերհզոր տվյալների կենտրոններից, իսկ ընկերությունները, որոնց բիզնես շահերից չի բխում ամբողջովին անկախ գործող գործակալների ստեղծումը, անհրաժեշտության դեպքում պարզապես կարող են անջատել դրանք։

Լրագրողի կարծիքով՝ ԱԲ-ի պատճառով մարդկության հնարավոր կործանման մասին քննարկումները, որոնք արդեն հասել են նաև քաղաքական գործիչներին, կարող են շեղել ուշադրությունը տեխնոլոգիայի ավելի իրական վտանգներից, օրինակ՝ կիբերհարձակումների համար ԱԲ-ի օգտագործումից։

Հետևանքների մասին

Արհեստական բանականության հնարավոր վտանգների շուրջ քննարկումների ֆոնին հայտնի է դարձել նաև, որ OpenAI-ը 2026 թվականին չի իրականացնի բաժնետոմսերի թողարկում կամ առաջնային հրապարակային առաջարկ՝ IPO։ Ընկերության ղեկավար Սեմ Ալթմանն այդ որոշումը բացատրել է ԱԲ-ի անվտանգության հետ կապված մտահոգություններով։

ChatGPT-ն ստեղծող ընկերությունը նախատեսում էր բորսա դուրս գալ մոտավորապես նույն ժամանակահատվածում, ինչ Anthropic-ը։ Երկու ընկերություններն էլ համապատասխան հայտերը ներկայացրել էին այս տարվա սկզբին։ Reuters-ի տվյալներով՝ Anthropic-ը պատրաստվում է IPO անցկացնել հոկտեմբերի կեսին։ Սպասվում է, որ բորսա դուրս գալն ԱԲ ընկերություններին լրացուցիչ ֆինանսական միջոցներ կտա՝ տեխնոլոգիայի զարգացումն արագացնելու համար։ Սակայն ֆինանսավորման հետ մեկտեղ նրանք նաև բաժնետերեր կունենան, որոնց առաջ ստիպված կլինեն հաշվետու լինել։

OpenAI-ի՝ այս տարի IPO-ից հրաժարվելու որոշումը և ԱԲ-ի հնարավոր վտանգների մասին քննարկումները բացասաբար են ազդել նաև տեխնոլոգիայի հետ կապված ընկերությունների բաժնետոմսերի վրա։ Օրինակ՝ OpenAI-ի ներդրող ճապոնական SoftBank-ի բաժնետոմսերն առևտրի ընթացքում նվազել են 13,2 տոկոսով։

Այսպիսով՝ թեմայի շուրջ քննարկումները նոր փուլ են մտել և այս անգամ ճամբարների են բաժանվել տեխնոհսկաները, քաղաքական գործիչները, պետությունները։ Մի խոսքով՝ ԱԲ պատերազմը խոստանում է սառը պատերազմից էլ ավելի թեժ լինել։ Սպասենք զարգացումներին։