AI-ի էթիկան և աշխարհաքաղաքական ըմբշամարտը, թե ով կհաղթի իսկական AI-ին հասնելու մրցավազքում

Աշխարհը կատաղի մրցավազքի մեջ է.

Աշխարհաքաղաքական ուժերը պնդում են, որ հաղթողը տուն կտանի ամբողջ խոզապուխտը, կարծես թե։

Ո՞ր մրցավազքն է կատաղի մղվում և եռանդորեն հետապնդվում:

Դա AI մրցավազքն է:

Դուք, հավանաբար, ավելի դիպուկ կարող եք դա անվանել որպես հասնելու մրցավազք ճիշտ Արհեստական ​​ինտելեկտ (AI), որն այժմ ավելի ամբողջական անվանում են Արհեստական ​​ընդհանուր բանականություն (AGI): Մենք ցանկանում ենք ինչ-որ կերպ հասնել թվացյալ առավելագույն AI-ի կամ հայտնի որպես AGI, որը համեմատելի է մարդկային բանականության հետ: Մենք դեռ այնտեղ չենք: Իրոք, չնայած ամեն տեսակի վայրի և լկտիաբար հռչակող վերնագրերին, մենք չգիտենք, թե երբ և արդյոք կհասնենք այդ բարձր նշաձողին: Այսօրվա արհեստական ​​ինտելեկտը շատ ավելի քիչ կարողություններ ունի, քան մարդկային համընդհանուր ինտելեկտը, թեև, անշուշտ, կան շատ ավելի նեղ եղանակներ, որոնցով AI-ն տպավորիչ արշավներ է կատարել, օրինակ՝ կարողանալով խաղալ բարձրակարգ համաշխարհային կարգի շախմատ կամ կատարել այլ համեմատաբար սահմանափակ առաջադրանքներ:

Ոսկե մատանին, սակայն, արհեստական ​​ինտելեկտի գալուստն է, որը ցուցադրում է մարդկային խելամտությունը բարեպաշտ բնույթ և խորություն, որը նման է մարդկության բանականությանը: Սա արհեստական ​​ինտելեկտի հետազոտողների և պրակտիկանտների սուրբ գրալն է: Ժամանակ առ ժամանակ հնչում էին կատաղի պնդումներ, որ արդեն հատել եմ AI մրցավազքի ավարտի գիծը, որը ես հերքել եմ իմ սյունակում ժամը հղումն այստեղ. Նրանք, ովքեր փորձում են վերջնագիծը հատելու վեճեր առաջացնել, շփոթեցնում են լայն հանրությանը և երբեմն դա անում են նախանձախնդիր անմեղությամբ, իսկ երբեմն էլ ունեն լուրջ կասկածելի դրդապատճառներ: Ընդհանուր առմամբ, սա բարձրացնում է AI-ի էթիկայի բավականին կարևոր և կենսական նկատառումներ: AI-ի էթիկայի և էթիկական AI-ի իմ շարունակական և ընդարձակ լուսաբանման համար տե՛ս հղումն այստեղ և հղումն այստեղ, պարզապես մի քանի անուն:

Ինչևէ, կասկած չկա, որ մոլորակի վրա արագաշարժ AI-ի մրցավազք է ընթանում: Ձեզ դժվար կլինի հակառակը պնդել:

Մտածեք դրա մասին այսպես. Եթե ​​մենք արդեն հասցնեինք հասնել իրական AI-ի կամ AGI-ի, հավանականությունն այն է, որ AI-ի վազքը պաշտոնապես և գլոբալ կերպով կհայտարարվեր որպես հաջողությամբ ավարտված: Վստահեցնում եմ ձեզ, որ համաշխարհային ուշադրությունը կկենտրոնանա նման հնչեղ և աշխարհը ջախջախիչ բեկման վրա: Դուք կիմանայիք դրա մասին: Մենք բոլորս կցանկանայինք: Արհեստական ​​ինտելեկտի խելագար գծերը, հետևաբար, այլևս գոյություն չունենա, թեև գուցե երկրորդական տարբերակ կարող է առաջանալ, որը ներառում է նրանց, ովքեր չեն հասել իրական AI-ին, տենդագին աշխատում են հասնելու համար: Կա նաև անհանգստացնող խնդիր, թե ինչպես մենք կվերջացնենք AGI-ն վերահսկելու կամ կառավարելու, եթե կամ երբ հասնենք այնտեղ:

Ոչ մի անձ կամ կազմակերպություն կամ ազգ դեռ չի կարող պատշաճ կերպով հավակնել իսկական AI կամ AGI արտադրելու թագը:

Միևնույն ժամանակ, վիթխարի և անողոք վիճաբանություն է տեղի ունենում այն ​​մասին, թե որ ազգը (կամ ազգերը) են ոհմակի գլխին, և ովքեր են ավելի ետևում: Ենթադրությունն այն է, որ եթե առաջինը չես, կմնաս կեղտի մեջ։ Դուք կուտեք AI-ի հաղթողների մնացորդները: Դուք կարող եք ընդմիշտ ենթարկվել այն ազգին կամ ազգերին, որոնք ազդարարված թռիչք են կատարում դեպի իսկական AI կամ AGI:

Որպես արագ մի կողմ և այս քննարկման ձևակերպումը հեշտացնելու համար, ես այսուհետ կօգտագործեմ «AGI»-ն, երբ ցանկանում եմ վկայակոչել իսկական AI-ի աուրան: Փոքր-ինչ ավելի նոր «AGI» արտահայտության օգտագործումը երբեմն տհաճ է նրանց համար, ովքեր սովոր չեն օգտագործել այն: Մենք բոլորս ծանոթ ենք «AI»-ին, և դուք կարող եք անհանգստանալ՝ տեսնելով, որ դրա փոխարեն օգտագործվում է «AGI» հապավումը: Թույլ տվեք բացատրել, թե ինչու է սա աստիճանաբար ձևավորվում որպես խոսքի միտում:

Արհեստական ​​ինտելեկտի ժողովրդական լեզվի ասպարեզում AGI-ի վերելքի մի մասն այն է, որ «AI» պարզապես ասելն այժմ դարձել է ցավոք ջրված արտահայտություն: Ոչ ոք չգիտի, արդյոք ձեր նշած արհեստական ​​ինտելեկտը հազիվ AI տարբերակն է կամ գրեթե ավելի լավ զարգացող AI ինֆուզիոն, թե՞ կարող է ակնարկել մի օր ֆուտուրիստական ​​լիովին մարդուն հավասարեցված AI-ին: «AI»-ի գերծանրաբեռնվածության հետ առնչվելու համար AGI անվանումը ձեռք է բերել նախապատվություն AI ոլորտի այն ինսայդերների կողմից, որոնք ցանկանում են հատուկ և հատկապես ակնարկել իսկական AI-ին:

Այսպիսով, կարճ ասած, համարեք իմ AGI-ի մասին հիշատակումը նույնն է, ինչ ասելու «իսկական AI»՝ մարդկային բանականությանը նման ամուր տրամաչափի, շնորհակալություն:

Եկեք զգույշ խորը շունչ քաշենք և գիտակցաբար քննենք մրցավազքի որոշ կողմեր՝ AGI-ին հասնելու համար: Կա նույնիսկ մետա-ասպեկտ, որը պետք է նախ նշվի: Ուշադիր եղեք, որ ենթադրյալ ոտքով մրցավազքի այլաբանությունը կամ մրցարշավի այլ տեսակ օգտագործելը որպես AGI մրցավազքի փոխաբերություն օգտագործելու համար կա մի փոքր ցրտահարություն: Ինչու այդպես? Ես ձեզ մի պահ կներկայացնեմ այն ​​բարդությունների և բարդությունների մասին, թե ինչու է (ոմանք ասում են) վազքարշավը կամ դրա համարժեքը լիովին ապակողմնորոշիչ և նենգ պարզամիտ տեսակետ:

Ահա այն հիմնական կետերը, որոնք ես ձեզ հետ կխոսեմ այս դիսկուրսի մեջ.

• Եթե ​​սա մրցավազք է, ապա AGI-ի ավարտի գիծը բավականին անորոշ է թվում
• AGI մրցավազքը կարող է վերաբերվել անձի, կազմակերպության կամ ազգի
• Չափումներ և ինչպես են ազգերը համեմատվում AGI մրցավազքում
• Աշխարհաքաղաքական մանևրումներ և դասավորվածություն AGI մրցավազքի համար
• AI միջազգային օրենքները և AI էթիկան որպես մրցավարներ AGI մրցավազքում

Գուցե ցանկանաք կապել ձեր ամրագոտին, երբ ես ուսումնասիրում եմ շտապ ընթացող AGI վազքարշավը (այո, ես համարձակվում եմ այն ​​անվանել ոտքով մրցավազք), որտեղ գրեթե բոլորը շարժվում են ահռելի արագությամբ և, կարծես, բարձրանում են առաջ այս այրվող որոնումներում: Ոմանք կարող են ասել, որ սա մարդկության բարելավման համար մղվող մրցավազք է, մինչդեռ մյուսները նախազգուշացնում են, որ մրցավազքը կարող է լիակատար կործանում լինել բոլորիս համար:

Ժամանակը ցույց կտա.

Եթե ​​սա մրցավազք է, AGI-ի ավարտի գիծը բավականին վատ սահմանված է թվում

Ավարտի գիծը սովորաբար բավականին հստակ սահմանազատում է: Դուք կամ հասել եք վերջնագծին, կամ չեք հասել: Կարճ խոսելը ձեզ այնքան էլ լավ չի տա: Պատկերացրեք Օլիմպիական խաղերի 400 մետր վազքը և հատկապես կհիշե՞ք, թե՞ կկազմեք գովասանքներ այն վազորդներին, ովքեր ընդհանրապես չեն ավարտել մրցավազքը (երբեք չեն հատել եզրագիծը): Քիչ հավանական է։

Արդյո՞ք մենք կիմանանք, թե երբ ենք հասել AGI այնպես, որ ողջամտորեն բոլորը համաձայնվեն, որ վերջնագիծը հասել է:

AGI-ի սահմանազատման շուրջ բուռն տարաձայնություններ կան։

Օրինակ, ենթադրենք, որ մենք մշակում ենք Արհեստական ​​ինտելեկտ, որը, թվում է, լիովին ի վիճակի է դրսևորել մարդկային ինտելեկտը, բայց դրանում ինքնին զգացմունքային երևույթ չկա (տե՛ս AI-ի խելամտության վերաբերյալ փաստարկների մասին իմ լուսաբանումը. հղումն այստեղ) AI-ն հաշվողականորեն ի վիճակի է ընդօրինակել կամ այլ կերպ գործել այնպես, ինչպես անում է մարդկային բանականությունը: Այնուամենայնիվ, չկա կենդանության կամ զգացմունքի կայծ, որը մենք կապում ենք մարդկանց և այլ կենդանի արարածների հետ: Արդյո՞ք այս AGI-ն հասնում է այն նպատակին, որը մենք կարծում էինք, որ ունենք:

Ոմանք կհակառակեն, որ նշանակություն չի ունենա, եթե զգացմունքն ինքնին կարծես թե փաթաթված է այս AGI-ի մեջ: Քանի դեռ այն կարող է դրսևորել մարդկային ինտելեկտը, զգացմունքի ընդգրկումը տարբեր տեսակի մի բան է, որը մենք կարող ենք կամ չուզենալ տեսնել, որ առաջանում է: Զգացմունքն այդ իմաստով իրերի հավելում է:

Մյուսները բուռն կերպով պնդում են, որ AGI-ում մարդկային բանականության հասնելու միակ միջոցը կլինի զգացմունքի ամբողջական մարմնավորումը: AGI-ն և զգացմունքը կամ համարվում են նույնը, կամ դրանք անկրճատելի անբաժանելի երկակի մարմնավորման խառնուրդ են: AGI ձեռք բերելու համար դուք պետք է զգացմունք ունենաք, նրանք կվիճարկեին:

Մի կողմ դնելով բանավեճի այդ անկյունը, մեկ այլ հեռանկար այն է, որ մենք կարող ենք օգտագործել հայտնի Թյուրինգ թեստը` գնահատելու, թե արդյոք AGI-ն ձեռք է բերվել: Ես մանրամասն անդրադարձել եմ Թյուրինգի թեստին հղումն այստեղ. Կարճ ասած, հասկացությունը բաղկացած է նրանից, որ մարդը հարցեր է տալիս AGI-ին, և եթե մարդը չի կարողանում տարբերել AGI-ի կողմից ստեղծված պատասխանները մարդկության պատասխաններից, ապա մենք կհայտարարենք, որ AGI-ն կարող է դրսևորել մարդկային բանականություն:

Կան բազմաթիվ խնդիրներ կամ թերություններ, որոնք հաճախ կապված են Թյուրինգի թեստի հետ:

Ենթադրենք, որ հարցումներ կատարող մարդը չար աշխատանք է կատարում և չի կարողանում հետախուզական հարցեր տալ: Մտահոգություններից մեկն այն է, որ այսօրվա թվացյալ հզոր Լեզվական Մոդելներից (LLM) շատերը կարող են թութակ տալ մարդուն այն բովանդակությունը, որի վրա LLM-ն ուսուցանվել է (այսինքն՝ տեքստը և թվային մեդիան հաճախ ստացվում է ինտերնետի լայնածավալ գրառման միջոցով): Որպես այդպիսին, սովորական կարգի հարցեր տվող հատուկ ընտրված մարդիկ, որոնք արդեն իսկ պատասխաններ են ստացել և գոյություն ունեն առցանց, կարող են հեշտությամբ «պատասխանել» LLM-ի կողմից, բայց դա վիճելիորեն պայմանավորված չէ AGI տրամաչափի մարդկային հետախուզական որևէ մարմնավորմամբ:

Բազմաթիվ այլ անհանգստություններ են առաջանում: Ենթադրենք, որ մարդը ի վիճակի չէ հասկանալ պատասխանները: Կամ ենթադրենք, որ մարդն իրեն խաբում է հավատալով, որ պատասխանները բոլորը մարդկային բանականության ցուցադրություն են: Ես նույնիսկ լուսաբանել եմ ոմանց անծանոթ գաղափարը, որ այն ամենը, ինչ մենք պետք է անենք, այն է, որ AI-ին հարցնենք՝ արդյոք այն AGI է, թե՞ զգայուն, ինչը ես պարզեցնում եմ, որ AGI-ի ապացույցի այնքան էլ համոզիչ ձև չէ, տես. հղումն այստեղ.

Վերջապես, ինչպես մեկ ավելացված միտք, մենք պետք է ամբողջությամբ հասնենք ավարտի գծին, որպեսզի համարենք, որ AGI-ն հասել է:

Ավելի վաղ ես նշեցի, որ մենք սովորաբար մոռանում ենք նրանց մասին, ովքեր չեն հասնում ավարտին: Սա կարող է խելամտորեն նման չլինել AGI մրցավազքին: Կարծում եմ, որ կարելի է համոզիչ դեպք ներկայացնել, որ եթե մենք կարողանանք զգալի ճանապարհ ձեռք բերել դեպի AGI, մենք արդեն կհայտնվենք զարմացած վիճակում և կա՛մ մեծ օգուտի, կա՛մ մեծ դժվարության մեջ: Տեսեք, շատ կարևոր և շատ օգտակար արդյունքներ կարող են առաջանալ գրեթե գոյություն ունեցող AGI-ի կողմից: Կարճ խոսելն այնքան խնդրահարույց չի լինի, որքան 400 մետրանոց վազքարշավը չավարտելը, մանավանդ, որ այն կարող է կենսական հիմք հանդիսանալ դեպի AGI-ի ամբողջական տարբերակը (հնարավոր է, որ համեմատության մեջ լինել մարաթոն):

AGI-ի նվաճման փոխաբերությունը՝ լինելով վազքարշավի տեսակ կամ դրա համարժեքը, երբեմն անբավարար և ոչ ադեկվատ է:

AGI մրցավազքը կարող է գնալ անձի, կազմակերպության կամ ազգի

Ոմանք կրում են այն երազկոտ պատկերացումը, որ AGI-ն ձեռք կբերի ավտոտնակում աշխատող ինչ-որ կաշեգործ՝ իրենց գիշերազգեստով և կդառնա համակարգչային խելահեղ հնարամիտ փորձերի ելք, որոնց վրա նրանք տարիներ շարունակ աշխատել են: Դա միայնակ գայլի դասական բարձր տեխնոլոգիական տրոփն է:

Ներողություն եմ հայտնում, որ սա չափազանց ցածր հավանականության առաջարկ է:

Ավելի մեծ հավանականությունը կլինի, որ կազմակերպությունը, ինչպիսին է բիզնեսը կամ հետազոտական ​​թիմը, լինեն AGI-ի գնորդները: Ուժեղ և գերակշռող համոզմունքն այն է, որ գյուղից կպահանջվի AGI հասնելու համար: Միայնակ գայլն ինքնուրույն չի ունենա ռեսուրսներ և պատկերացումներ AGI-ին հասնելու համար: Նրանք կարող են նպաստել որոնմանը: Նրանք կարող են անհրաժեշտ կտորներ տրամադրել գլուխկոտրուկին: Նրանք ի վիճակի չեն լինի հավաքել ամբողջ հանդերձանքն ու կեռիկը:

Խոսելով գյուղերի մասին, մեկ այլ խիստ հաստատված տեսակետ այն է, որ ազգերը կլինեն միայն AGI-ին հասնելու համար: Ժողովրդի, բիզնեսի, գիտնականների և ազգային պետության մեջ գործող կազմակերպությունների բոլոր այլ ձևերի համակցման միջոցով AGI-ն կժամանի ազգային ամբողջության համատեղ աշխատանքի արդյունքում: Այս մրցավազքում հաղթողի ուշադրության միավորի մակարդակը ազգային պետության հիմքի վրա է, այլ ոչ թե ավելի ցրված, ազատ ձևի կամ անհատականության վրա:

Մի խոսքով, եթե գյուղ վերցնի, գյուղը կլինի ազգային մասշտաբի, հետևաբար ազգային պետությունը կլինի նշանակված վազորդը, որը կհատի վերջնագիծը AGI մրցավազքում:

Չափումներ և ինչպես են ազգերը համեմատվում AGI մրցավազքում

Հաշվի առեք, որ AGI-ի ձեռքբերումը հիմնված կլինի ազգային-պետական ​​մակարդակի վրա:

Կրկնեմ, մենք դա հաստատ չգիտենք, բայց դա հիմնավորված ենթադրություն է թվում:

Նկատի առեք ազգային պետության հիմքի հետևանքները: Ենթադրենք, որ միայնակ գայլին հաջողվում է առաջինը հասնել AGI և կարծում է, որ իրենց աշխատանքը գերազանցում է ազգային պետության գործը, որի անդամն է: Այս անձը հայտարարում է, որ իրենք ոչ մի ազգային պետություն չեն մշակված AGI-ի առումով: Արդյո՞ք մենք դեռ կպարգևատրեի՞նք այդ ազգային պետությանը, և AGI-ն կլինե՞ր այդ ազգի վերահսկողության և իրավասության ներքո:

Պատկերացրեք ևս մեկ այլընտրանք, որ մեծ բազմազգ կոնգլոմերատը առաջինը ժամանի AGI: Ո՞ր ազգը կարող է ասել, որ AGI-ն իրենց «բանն» է օգտագործել և տեղակայել (արդյո՞ք դա կընկալվի որպես սեփականություն, թե՞ հավաքագրվի իրավաբանական անձի փոխարեն): Թերևս բոլոր այն երկրները, որոնցում գոյություն ունի ընկերությունը, պետք է հավասար վարկ ստանան: Կամ գուցե միայն այնտեղ, որտեղ պաշտոնական շտաբը գտնվում է աշխարհագրորեն: Դա կարող է լինել ոսկու իսկական կաթսայի բարդ պառակտում:

Ամեն դեպքում, ընդհանուր տարածված կարծիքն այն է, որ ազգային պետությունը լինելու է AGI-ին հասնելու վճռորոշ որոշիչը: Այն ազգը, որը խրախուսում է արհեստական ​​ինտելեկտի հետազոտությունն ու զարգացումը իր ազգային ջանքերի շրջանակներում, ենթադրաբար, ավելի շուտ կհասնի AGI-ին, քան մյուս երկրները, որոնք նույն կերպ չեն անում:

Գերակշռող տեսակետ կա, որ արհեստական ​​ինտելեկտի մրցավազքը ազգային է:

Գլխի ցնցող խնդիրն այն է, թե ինչպես մենք պետք է պարզենք, թե AGI-ի մրցավազքում մի ազգ առաջ է մյուս ազգից, թե ետ:

Սովորական վազքարշավում մենք հեշտությամբ կարող ենք բացահայտել չափումները, որոնք կարող են օգտագործվել՝ որոշելու համար, թե որ վազորդներն են լավ հանդես գալիս, իսկ որոնք՝ ոչ: Վազողի արագությունը կարելի է հեշտությամբ հաշվարկել: Սա չի երաշխավորում, որ նրանք առաջինը կավարտեն, բայց դա առնվազն խոստումնալից է: Ֆիզիկական հեռավորությունը վազորդների միջև և մինչև ավարտի գիծ մնացած հեռավորությունը ակնհայտորեն կարևոր չափանիշներ են, որոնք մենք կարող ենք հեշտությամբ չափել:

AGI մրցավազքը չունի չափումների կամ չափումների այդ տեսակի երաշխավորված ձևեր:

Մենք օգտագործում ենք բոլոր տեսակի փոխնակ միջոցները, քանի որ չկա որևէ վերջնական միջոց՝ հաշվարկելու, թե որտեղ է գտնվում վերջնագիծը և որքան հեռու ենք դրանից:

Եկեք դիտարկենք պայմանականորեն դիտարկվող չափումների տեսակները: AI-ի հետ կապված գլոբալ չափումների հատկապես հարմար աղբյուրը ամեն տարի հավաքվում և հրապարակվում է Սթենֆորդի համալսարանի Մարդակենտրոն AI-ի Սթենֆորդի ինստիտուտի (HAI) կողմից: Զեկույցը հասանելի է առցանց անվճար, և վերջին թողարկումը վերնագրված է AI Index 2022 տարեկան հաշվետվություն (հիմնվելով 2020-2021 թթ. հավաքագրված տվյալների վրա): Մի պահ կկիսվեմ ձեզ հետ ազգային համեմատությունների որոշ կարևոր կետերով, որոնք նշված են վերջին ժողովածուում:

Չափիչները, որոնք օգտագործվում են AI-ի ազգային և միջազգային առաջընթացը չափելու համար, սովորաբար ներառում են ամեն ինչից մի փոքր, երբեմն սահմանակից են նաև իսկական խոհանոցի լվացարանին:

Սովորաբար հետազոտվող միջոցառումների տեսակները ներառում են.

• AI հետազոտական ​​հոդվածների քանակը, որոնք վերագրվում են որոշակի ազգին
• Որոշակի ազգի AI հոդվածներին մեջբերված հղումների քանակը
• AI ամսագրերի քանակը, որոնք հիմնված են որոշակի ազգի ներսում
• AI կոնֆերանսների քանակը, որոնք տեղի են ունենում որոշակի ազգի ներսում
• AI կոնֆերանսների քանակը, որոնք հովանավորվում են որոշակի ազգի կողմից
• AI-ի հետ կապված արտոնագրերի քանակը, որոնք տրվել են որոշակի երկրում
• AI ընկերությունների ստարտափների թիվը որոշակի երկրում
• AI աշխատատեղերի քանակը որոշակի երկրում
• AI նոր աշխատատեղերի կամ որոշակի երկրում աշխատանքի ընդունվելու թիվը
• AI օրենքների կամ օրենսդրական օրինագծերի թիվը, որոնք ներկայացվել են որոշակի երկրում
• Որոշակի երկրում ընդունված կամ ընդունված AI օրենքների քանակը
• այլ

Դիտարկենք այս ժամանակակից ցուցումները HAI AI Index 2022-ից.

• AI հրապարակման մեջբերումներ.Արհեստական ​​ինտելեկտի պահոցի հրապարակումների մեջբերումներով, Միացյալ Նահանգները գլխավորում է ցուցակը՝ 38.6 թվականին ընդհանուր մեջբերումների 2021%-ով, ինչը գերիշխող առաջատար է Եվրամիության նկատմամբ՝ գումարած Միացյալ Թագավորությունը (20.1%) և Չինաստանը (16.4%):
• AI ամսագրեր/կոնֆերանսներ. «2021 թվականին Չինաստանը շարունակեց առաջատար լինել աշխարհում արհեստական ​​ինտելեկտի ամսագրերի, կոնֆերանսների և շտեմարանի հրապարակումների քանակով, ինչը 63.2%-ով գերազանցում է Միացյալ Նահանգներին՝ բոլոր հրապարակումների բոլոր երեք տեսակներով միասին վերցրած: Միևնույն ժամանակ, Միացյալ Նահանգները գերիշխող առաջատարն էր AI-ի խոշոր տերությունների միջև համաժողովների և պահեստային մեջբերումների քանակով»:
• AI արտոնագրեր. «Չինաստանն այժմ ներկայացնում է աշխարհում արհեստական ​​ինտելեկտի արտոնագրերի կեսից ավելին և ստանում է մոտ 6 տոկոս, մոտավորապես նույնը, ինչ Եվրամիությունը գումարած Միացյալ Թագավորությունը: Միացյալ Նահանգները, որը ներկայացնում է գրեթե բոլոր արտոնագրերը Հյուսիսային Ամերիկայում, դա անում է Չինաստանի մեկ երրորդով: Համեմատած կիրառվող և շնորհված արհեստական ​​ինտելեկտի արտոնագրերի աճող թվի հետ՝ Չինաստանն ունի շատ ավելի մեծ թվով արտոնագրային հայտեր (87,343 2021 թվականին), քան տրվածները (1,407՝ 2021 թվականին):
• Նոր ֆինանսավորվող AI ընկերություններ. «Ներդրումային տվյալներ յուրաքանչյուր տարածաշրջանում նոր ֆինանսավորվող AI ընկերությունների թվով: 2021 թվականին Միացյալ Նահանգները գլխավորել է 299 ընկերություններով, որին հաջորդում են Չինաստանը՝ 119, Միացյալ Թագավորությունը՝ 49, Իսրայելը՝ 28։ Յուրաքանչյուրի միջև տարբերությունը զգալի է»։
• AI աշխատանքի ընդունման տեմպերը.Նոր Զելանդիան, Հոնկոնգը, Իռլանդիան, Լյուքսեմբուրգը և Շվեդիան 2016-ից 2021 թվականներին արհեստական ​​ինտելեկտի աշխատանքի ընդունման ամենաբարձր աճ ունեցող երկրներն են կամ տարածաշրջանները:
• AI Աշխատանքային հայտարարություններ. «2021 թվականին Կալիֆոռնիան, Տեխասը, Նյու Յորքը և Վիրջինիան Միացյալ Նահանգներում արհեստական ​​ինտելեկտի աշխատանքի հայտերի ամենաշատ թվով նահանգներն էին, ընդ որում Կալիֆոռնիան 2.35 անգամ ավելի շատ էր, քան Տեխասը՝ երկրորդը: Վաշինգտոն, DC, ուներ արհեստական ​​ինտելեկտի աշխատանքի հրապարակումների ամենամեծ ցուցանիշը՝ համեմատած իր աշխատատեղերի ընդհանուր թվի հետ
• AI օրենսդրական գործողություն. «25 երկրներում արհեստական ​​ինտելեկտի վերաբերյալ օրենսդրական գրառումների AI ինդեքսի վերլուծությունը ցույց է տալիս, որ «արհեստական ​​ինտելեկտ» պարունակող օրինագծերի թիվը, որոնք ընդունվել են օրենք, աճել է ընդամենը 1-ից 2016 թվականին մինչև 18 2021 թվականին: Իսպանիան, Միացյալ Թագավորությունը և Միացյալ Նահանգները: 2021 թվականին ընդունել է AI-ի հետ կապված ամենաշատ օրինագծերը, որոնցից յուրաքանչյուրն ընդունել է երեքը»:

Մենք կարող ենք առատորեն հիանալ և գնահատել AGI մրցավազքի համար ազգային պետությունների վազորդների վիճակագրությունը կազմելու քրտնաջան աշխատանքը:

Թեև թերահավատները բավականին շատ են բամբասում AGI-ի մրցավազքում ցանկացած տեսակի չափումների օգտագործման մասին:

Փշոտ հարցն այն է, թե արդյոք դուք կարող եք որևէ ուղիղ գիծ քաշել AI հոդվածների քանակից կամ AI կոնֆերանսներից որոշակի ազգի ներսում մինչև AGI-ի վերջնական ձեռքբերումը: Նույնը ասվում է արհեստական ​​ինտելեկտի աշխատատեղերի, արհեստական ​​ինտելեկտի ընկերությունների թվի և այլ ցուցանիշների քանակի համար: Կարող է լինել, որ այդ հաշվարկները քիչ կապ ունեն AGI-ի ձեռքբերման հետ: Փաստարկը գնում է, որ այդ միջոցները ավելի շատ ջերմություն են, քան լույս:

Հակափաստարկն այն է, որ մենք պետք է փորձենք և չափենք, թե որտեղ ենք և ուր ենք գնում։ Գլուխը ավազի մեջ դնելը այնքան էլ կենսունակ միջոց չի թվում՝ գնահատելու, թե արդյոք մենք գնում ենք դեպի AGI, թե գուցե ավելի հեռու AGI-ից: Հույս կա և ընդհանուր առմամբ ենթադրվում է, որ որքան շատ էներգիա և ուշադրություն լինի AI-ի առաջընթացին, այնքան մենք կմոտենանք AGI-ին: Այս չափիչները լավագույնն են, որ մենք կարող ենք անել՝ պարզելու համար, թե որքան էներգիա և ուշադրություն է հատկացվում և սպառվում AGI մրցավազքում:

Կլոր ու կլոր, որ գնում է:

Չափիչներից յուրաքանչյուրն ինքնին կարող է նաև շփվել գլխի վրա:

Օրինակ, հաշվի առեք AI-ի մասին օրենսդրական օրենքների կամ օրինագծերի քանակը:

Դուք կարող եք պնդել, որ եթե օրենսդիրները կենտրոնանում են AI-ի հետ կապված օրենքների վրա, սա լավ նշան է, որ ազգը բավականին սթափ կերպով է ընդունում AI-ի կարևորությունը և հասարակական հետևանքները, թե ուր է ուղղվում AI-ն: Կարելի է դեպք անել, որ սա ցույց է տալիս, որ AI-ի առաջխաղացման մեծ ջանք է առաջանում տվյալ երկրում: Ինչո՞ւ եք դժվարանում AI-ի օրենքներ ընդունելու, եթե AI-ն նկատելիորեն զարգանում և փրփրում էր որպես ձեր ազգի ցուցադրական տարր:

Այդ կերպ, այն երկրները, որոնք հրապարակում են արհեստական ​​ինտելեկտի նոր օրենքները, մեկնաբանվում են որպես ազդանշան կամ AGI-ի առաջընթացի ազդանշան այդ երկրում լավ ընթացքի մեջ է:

Որոշ քննադատներ պնդում են, որ արհեստական ​​ինտելեկտի վերաբերյալ առաջարկվող նոր օրենքները պատրաստվում են խեղդել AI-ի ջանքերը յուրաքանչյուր նման երկրի ներսում: Օրենսդիրներն ու քաղաքական առաջնորդները պատրաստվում են կրակել սեփական ոտքերի վրա. Օրենքները պատրաստվում են վաղաժամ մռայլ ստվեր դնել այդ կոնկրետ երկրում ընթացող AI-ի ջանքերի վրա: AI-ի առաջխաղացման ծորակը պատրաստվում է խցանվել մազերի օրինական խցանման պատճառով, և AGI-ի առաջընթացի տեմպերը կդանդաղեն այդ AI օրենքը հռչակող ազգում: Միևնույն ժամանակ, մյուս երկրները, որոնք չեն ընդունում արհեստական ​​ինտելեկտի նման օրենքները, կշարունակեն անխափան: Կարծես որոշել ես կապարի կշիռներ դնել վազորդի վրա, որն արդեն 400 մետր ուղու վրա է: Եթե ​​նպատակ ունեիք օգնել նրանց և արագացնել դրանք, ապա ճիշտ հակառակն եք արել:

Վա՜յ, պատասխանը շարունակվում է, AI-ի օրենքների ընդունումն ավելի շատ նման է նրան, որ վստահ լինենք, որ վազորդի առջև ավելորդ խոչընդոտներ չլինեն: Օրենքները ուղղորդում են նույն կերպ, որ վազքուղու գծերը կան, որպեսզի վազորդը սահուն կերպով գնա ճիշտ ուղղությամբ: Առանց այդ ներկված գծերի, վազորդները կարող էին խելագարվել: Արհեստական ​​ինտելեկտի նոր օրենքները նրանց կպահեն միահամուռ քայլերով դեպի ցանկալի արդյունք: Այն երկրները, որոնք նույն կերպ չեն վարվում արհեստական ​​ինտելեկտի նոր օրենքների առումով, իրենց վազորդներին կգտնեն ամեն վայրի ուղղություններով, ներառյալ, հնարավոր է, ամբողջովին դուրս վազեն վազքուղուց և վնասեն նրանց, ովքեր անմեղ են AGI մրցավազքից դուրս:

Կան նաև արհեստական ​​ինտելեկտի հետ կապված «թաքնված» օրենքներ, որոնք ոմանք հաշվում են, իսկ ոմանք, մինչդեռ, ոմանք չեն հաշվում որպես այս չափումների մի մաս (կատարում է խառնաշփոթ, երբ փորձում են թվերը համեմատել):

Օրինակ, եթե ազգը օրենք է ընդունում ինքնավար տրանսպորտային միջոցների վերաբերյալ, ինչպիսիք են ինքնակառավարվող մեքենաները, դուք սա հաշվում եք որպես AI օրենք: Հստակեցնելու համար, որ ինքնավար մեքենան, ինչպիսին է լիովին ինքնավար ինքնակառավարվող մեքենան, կունենա արհեստական ​​ինտելեկտի վարորդական համակարգ, որը հիմնված է առանց վարորդի հնարավորությունների (տես իմ լուսաբանումը այստեղ՝ հղումն այստեղ) Շնորհիվ ներգրավված AI-ի, ինքնավար մեքենաների վերաբերյալ ցանկացած օրենք կարող է խելամտորեն վիճարկվել որպես հիմնականում AI օրենքներ: Մյուս կողմից, դուք կարող եք համոզիչ կերպով պնդել, որ օրենքը վերաբերում է ինքնավար մեքենային, այլ ոչ թե ինքնին արհեստական ​​ինտելեկտի մասին, հետևաբար դա չի հաշվվում AI-ին հատուկ օրենքներում:

Խառնաշփոթ է։

Չափումների վերաբերյալ այս ամբողջ տարակուսանքը կարող է ստիպել ձեզ թոթվել ձեր ուսերը այս ծանրակշիռ նկատառումների վերաբերյալ բևեռային հակառակ տեսակետների ֆոնին: Ինչպես ակնհայտ է, չափիչները գրեթե միշտ ենթակա են տարբեր մեկնաբանությունների, թե ինչ են նշանակում և ինչպես է պատշաճ կերպով վերլուծվում ազգի կարգավիճակը AGI-ի վերաբերյալ:

Աշխարհաքաղաքական մանևրում և հավասարեցում AGI մրցավազքի համար

Ո՞ր ազգերն են առաջ անցել AGI մրցավազքում:

Ո՞ր ազգերն են հետ մնում.

Վերոհիշյալ չափումները փորձում են ցույց տալ, թե ներկայումս վազորդներից յուրաքանչյուրը որտեղ է գտնվում: Հիմնական ենթադրությունն այն է, որ եթե չափիչները իրականում արտացոլում են AGI-ի դիրքավորում փնտրելու պատշաճ ցուցում, այս տարբեր բևեռային դիրքերը կարող են մնալ նույնը ժամանակի ընթացքում: Իհարկե, իրականությունն այն է, որ ազգային շահը և ուշադրությունը կարող են աճել կամ թուլանալ դեպի AGI խորդուբորդ ճանապարհի ընթացքում: Դուք կարող եք առավել խելամիտ լինել դիրքավորման փոփոխություններ ակնկալելը:

Կարևոր նկատառումներից մեկն այն է, որ ազգերն իրականում ինքնուրույն չեն այս մրցավազքում:

Ազգերը, ամենայն հավանականությամբ, էստաֆետը ետ ու առաջ կտան միմյանց միջև: AGI մրցավազքում երբեմն մեկ կամ մի քանի ազգեր հաճույքով աշխատում են ձեռք ձեռքի տված: Երբեմն դա արվում է զգուշությամբ, այլ ոչ թե ընկերական ուրախությամբ: Այլ դեպքերում, ազգերը կարող են հետ կանգնել միմյանցից: Ժամանակի ցանկացած պահի մրցավազքի կեցվածքը կարող է միանգամայն տարբեր լինել, քան մի քանի քայլ առաջ էր, գումարած՝ մի քանի քայլ դեպի ապագա:

Նկատի առեք այս կետը, որը արվել է HAI AI Index 2022 զեկույցում միջերկրային համագործակցությունների մասին. «Չնայած աճող աշխարհաքաղաքական լարվածությանը, Միացյալ Նահանգները և Չինաստանը 2010-ից 2021 թվականներին ունեցել են միջերկրային համագործակցությունների ամենամեծ թիվը AI հրապարակումներում՝ հինգ անգամ աճելով 2010 թվականից ի վեր: Երկու երկրների համագործակցությունը 2.7 անգամ ավելի շատ հրատարակություններ է տվել, քան Միացյալ Թագավորության և Չինաստանի միջև, ինչը ցուցակում երկրորդ ամենաբարձրն է»։

Ցինիկները կասեին, որ, հավանաբար, խաչաձև համագործակցությունների օգտագործումը երբեմն արվում է որպես խորամանկություն: Ազգը կարող է բացահայտորեն պնդել, որ իրենք համագործակցում են՝ երևալով, որ դա անում են, մինչդեռ խորքում նրանք թաքնված ազգային գաղտնիք են պահում իրենց լավագույն AGI առաջընթացը: Գուցե սա արվում է միջհամագործակցող ազգի առաջընթացը բթացնելու համար: Թերևս դա արվում է, որպեսզի գաղտնի սոուսը ակամա չտրամադրվի: Բոլոր տեսակի պատճառները հնարավոր են։

Ժամանակակից թվային ինտերնետ առցանց աշխարհում AGI-ի պատկերացումները սերտորեն փակ պահելը կարող է դժվար գործ լինել: AGI-ն բացահայտելու կամ հորինելու բուռն ցանկությունը գրավիչ գրավչություն է, որը կարող է դրդել առանձին AGI մշակողներին և հետազոտողներին բացահայտորեն կիսվել իրենց վերջին աշխատանքով: Ազգերը կարող են պարզել, որ նման համօգտագործման վրա սահմանափակում դնելը շատ ավելի դժվար է, քան կարող է թվալ, և, հավանաբար, շատ ավելի դժվար, քան այն ժամանակներում, երբ ամեն ինչ թղթի վրա էր և պահանջում էր ֆիզիկապես շարժվող փաստաթղթեր ամբողջ աշխարհում:

Շարժումը դեպի բաց կոդով, անշուշտ, ժամանակակից շեշտադրումն է եղել AI և AGI վերջին հետազոտությունների համար, ինչպես նշված է HAI AI Index 2022 զեկույցում. «Ամեն տարի հազարավոր և հազարավոր AI հրապարակումներ են թողարկվում բաց կոդով, անկախ նրանից՝ կոնֆերանսներ կամ ֆայլերի փոխանակման կայքերում: Հետազոտողները բացահայտորեն կկիսվեն իրենց բացահայտումներով համաժողովների ժամանակ. Պետական ​​գործակալությունները կֆինանսավորեն AI-ի հետազոտությունը, որն ավարտվում է բաց կոդով. և մշակողները օգտագործում են բաց ծրագրային գրադարաններ, որոնք ազատորեն հասանելի են հանրությանը, ժամանակակից արհեստական ​​ինտելեկտուալ հավելվածներ արտադրելու համար: Այս բաց լինելը նաև նպաստում է ժամանակակից AI R&D-ի գլոբալ փոխկապակցված և փոխկապակցված բնույթին»:

Ընդհանուր առմամբ, ազգերը ընդհանուր առմամբ կիսում են և, այնուամենայնիվ, կարող են ցույց տալ իրենց ձեռքի մի մասը: Մյուս ազգերը կարող են չկիսվել կամ միայն հավակնել դա անել: Որոշ ազգեր մեծապես պայքարում են՝ փորձելով չափել, թե ինչ են տալիս իրենց ազգի անդամները՝ ընդդեմ կախվածության: Եվ այսպես շարունակ։

Ես այս ազգային շարժումների բնույթը բնութագրել եմ հետևյալ կերպ.

• AI Գնա միայնակ ազգ (փորձում է ինքնուրույն շարունակել)
• AI Միակողմանի ազգ (ընդունում է, չի հանձնվում)
• AI Leftover Nation (ստանում է այն, ինչ կարող է ուրիշներից)
• AI Open-sharing Nation (հպարտանում է կիսվելով)
• AI Hollow-sharing Nation (կիսելու կեղծիք)
• AI Alliance Nation (փորձում է որքան հնարավոր է շատ դաշինքներ կնքել)
• AI-ն, որը խաղի մեջ չէ, ազգ (AGI-ի որոնումը ազգային առաջնահերթություն չէ)
• AI խաբեբա ազգ (հակադարձ ճարտարագիտություն կամ այլ ազգերից գաղտագողի գողություն)
• այլ

Ազգը կարող է միաժամանակ լինել այդ դույլերից մեկից ավելի:

Ազգը կարող է որոշ ժամանակ լինել այդ դույլերից մեկում, դուրս գալ դույլից և, հնարավոր է, ավելի ուշ նորից ներս մտնել:

Ազգ-պետության ցանկություններն ու ուշադրությունը, որը վերաբերում է AGI-ին փնտրելուն, դինամիկ ալիք է, որը, անկասկած, կշարունակվի և կլինի շարժուն թիրախ, թե որ ազգն է գտնվում մրցավազքում, և մշտական ​​աչք կպահանջվի պարզելու համար: որտեղ բոլոր խաղացողները գտնվում են ժամանակի տվյալ պահին:

AI միջազգային օրենքները և AI էթիկան որպես AGI մրցավազքի մրցավարներ

Նախորդ սյունակներում ես անդրադարձել եմ արհեստական ​​ինտելեկտը կարգավորող օրենքներ ստեղծելու և ընդունելու ազգային և միջազգային տարբեր ջանքերին, տես. հղումն այստեղ և հղումն այստեղ, օրինակ. Ես նաև անդրադարձել եմ արհեստական ​​ինտելեկտի էթիկայի տարբեր սկզբունքներին և ուղեցույցներին, որոնք տարբեր ազգեր հայտնաբերել և ընդունել են, ներառյալ, օրինակ, Միավորված ազգերի կազմակերպության ջանքերը, ինչպիսին է ՅՈՒՆԵՍԿՕ-ի Արհեստական ​​ինտելեկտի էթիկայի փաթեթը, որը ընդունել է մոտ 200 երկիր, տես. հղումն այստեղ.

Ահա AI համակարգերի վերաբերյալ Էթիկական AI չափանիշների կամ բնութագրերի օգտակար հիմնական ցուցակը, որը ես նախկինում մանրամասն ուսումնասիրել եմ.

• Թափանցիկություն
• Արդարություն և արդարություն
• Ոչ չարամտություն
• պատասխանատվություն
• Գաղտնիության
• Բարեգործություն
• Ազատություն և ինքնավարություն
• Վստահեք
• Կայունություն
• Արժանապատվություն
• Համերաշխություն

Արհեստական ​​ինտելեկտի էթիկայի այդ սկզբունքները լրջորեն պետք է օգտագործվեն արհեստական ​​ինտելեկտի մշակողների կողմից, ինչպես նաև նրանք, ովքեր ղեկավարում են AI-ի զարգացման ջանքերը, և նույնիսկ նրանք, որոնք, ի վերջո, կիրառում և պահպանում են AI համակարգերը:

Բոլոր շահագրգիռ կողմերը AI-ի զարգացման և օգտագործման ողջ կյանքի ցիկլի ընթացքում համարվում են Էթիկական AI-ի հաստատված նորմերին պահպանելու շրջանակում: Սա կարևոր կարևոր կետ է, քանի որ սովորական ենթադրությունն այն է, որ «միայն կոդավորողները» կամ նրանք, ովքեր ծրագրավորում են AI-ն, ենթակա են հավատարիմ մնալու AI-ի էթիկայի հասկացություններին: Ինչպես նախկինում ընդգծվել է այստեղ, AI-ի մշակման և մշակման համար անհրաժեշտ է գյուղ, և որի համար ամբողջ գյուղը պետք է տիրապետի և ենթարկվի AI-ի էթիկայի կանոններին:

Եկեք դիտարկենք AI-ի միջազգային օրենքների և AI-ի էթիկայի կանոնների միջազգային հռչակումների ազդեցությունը և կենսական բնույթը AGI մրցավազքի վրա:

Ազգերը, որոնք ձգտում են դեպի AGI, կարող են դա անել՝ հրաժարվելով և շրջվել դեպի AGI-ի հաճախ տարածված էքզիստենցիալ ռիսկերը: Հույս կա, որ կիրառելով արհեստական ​​ինտելեկտի միջազգային օրենքները և արհեստական ​​ինտելեկտի էթիկայի միջազգային կանոնները, ազգերը կուղղորդվեն դեպի AI For Good և հեռու մնացեք AI For Bad.

Մեր ձիարշավուղու անալոգիայի համաձայն՝ արհեստական ​​ինտելեկտի այդ օրենքները և արհեստական ​​ինտելեկտի էթիկայի նկատառումները նման են վազորդներին վազքուղուց դուրս չգնալու փորձին: AGI մրցավազքում դյուրանցումներ անելու հսկայական գայթակղություններ կան: Այդ դյուրանցումները կարող են ազգին ավելի շուտ տանել դեպի վերջնագիծը, թեև միաժամանակ այդ ազգին և այլ ազգերին անհարկի վտանգի տակ դնելով: Նուրբ, բայց խոսուն օրինակը բաղկացած է երկակի օգտագործման AI-ից, որը ես ուսումնասիրել եմ հղումն այստեղ, որի շնորհիվ AI-ի առաջխաղացումը միանգամայն մեծ ջանքերի հաշվին հեշտությամբ փոխվում է բարությանն ուղղված լինելուց դեպի կատակլիզմային վատություն առաջացնելուն:

Դուք կարող եք պնդել, որ AI միջազգային օրենքները և AI միջազգային էթիկան նման են մրցավարների կամ մրցավարների:

Ենթադրվում է, որ այս միջազգայնորեն մշակված իրավական և էթիկական մեխանիզմները AGI-ի մրցավազքը կպահեն ավելի հավասարաչափ: Բանն այն է, որ առանձին երկրներ կընտրեն ուշադրություն դարձնել մրցավարներին, թե մրցավարներին, դա այլ խնդիր է: Նմանապես, կա մի մտահոգիչ հարց, թե ինչպես այդ իշխանությունները կարող են տույժեր կամ խրախուսումներ տրամադրել վազորդներին ճիշտ ուղու վրա պահելու համար: Հավանականությունն այն է, որ ազգերը կանեն այնպես, ինչպես իրենք են ցանկանում, ինչի համար մյուս ազգերը կարող են իրենց կշիռը փոխել՝ աջակցելու այն կանոնների խախտմանը, որը որոշ երկրներ պարտավոր են ձեռնարկել:

Եզրափակում

Լեգենդար քիմիկոս և մանրէաբան Լուի Պաստերը հայտնի է այսպես. «Գիտությունը երկիր չի ճանաչում, քանի որ գիտելիքը պատկանում է մարդկությանը և այն ջահն է, որը լուսավորում է աշխարհը: Գիտությունը ազգի բարձրագույն անձնավորումն է, որովհետև այդ ազգը կմնա առաջինը, որն ամենահեռու կրում է մտքի և բանականության գործերը»:

Կարո՞ղ ենք ասել, որ AGI-ի ձեռքբերումը երկիր չի ճանաչում, և որ AGI-ն պատկանելու է ողջ մարդկությանը:

Թե՞ այն ազգը, ով առաջինը կհասնի AGI-ին, կտիրապետի դրան, հարբած կլինի գարշելի ուժից և կխելագարվի իշխանության մեջ:

Ձեզանից նրանց համար, ովքեր ցանկանում են մի փոքր շրջել այս կոնկրետ հանելուկի շուրջ, մտածեք, որ AGI-ն ինքնին կարող է լինել այն նվաճումների տեսակը, որը խոտերի մեջ առած օձն է: Օձը հայտնաբերողը կարող է լինել առաջինը, ով օձի խայթոց է ստանում: Առաջինը լինելն իր ռիսկերն ունի։

AGI-ով եզրագիծը հատելը պարտադիր չէ, որ լինի այնքան տոնական և անհոգ, որքան ոմանք կարող են մտածել: Ոչ էլ AGI-ի օգտագործումն անպայման հեշտ կլինի: Ոմանք կարող են պնդել, որ AGI-ի հետ հաղթահարելը կարող է գրեթե անհնարին լինել, քանի որ AGI-ն, ըստ երևույթին, կունենա այն համեմատելի խորամանկությունն ու հնարամտությունը, ինչ մարդկությունը: Ազգերը պետք է ուշադրություն դարձնեն, թե ինչ են փորձում հասնել և ինչ արդյունք կունենան՝ դա անելով նախօրոք և չբռնվելով անակնկալի գալուց: Նրանք կարող են եղջյուրի բույն ունենալ իրենց ազգային գանձատուփում:

Ինչպես ասում էր Պաստերը. «Բախտը ձեռնտու է պատրաստված մտքին»։