Ինչպես Սեմ Բենքմեն-Ֆրիդի կրիպտո կայսրությունը ձախողվեց և ինչպես դա ազդեց AI-ի վրա

Anthropic, Սան Ֆրանցիսկոյի արհեստական ​​ինտելեկտի հետազոտական ​​կազմակերպություն, հավաքել է 580 միլիոն դոլար ապրիլին «AI անվտանգություն» հետազոտության համար։

Մեկամյա լաբորատորիան, որը զարգանում է արհեստական ​​ինտելեկտ (AI) Լեզու ստեղծող համակարգերը քիչ հայտնի էին Սիլիկոնյան հովտում: Այնուամենայնիվ, փոքր բիզնեսի համար գրավադրված գումարը խլացրեց այն, ինչ VC-ները ներդրում էին արհեստական ​​ինտելեկտի այլ նորաստեղծ ձեռնարկություններում, ներառյալ նրանք, որոնք համալրված էին ոլորտի ամենագիտակ հետազոտողներով:

Սեմ Բենքմեն-Ֆրիդը՝ FTX կրիպտոարժույթի բորսայի հիմնադիրն ու գործադիր տնօրենը, որն անցյալ ամիս սնանկության դիմում է ներկայացրել, ծառայել է որպես ներդրումային փուլի առաջատար: Հաշվեկշռի արտահոսքից հետո FTX-ի կտրուկ փլուզում բացահայտեց, որ պարոն Բենքմեն-Ֆրիդը և նրա համախոհները առնվազն 500 միլիոն դոլար են ներդրել Anthropic-ում:

Նրանց ներդրումները արհեստական ​​ինտելեկտի կողմից բխող ռիսկերը հետաքննելու և հակազդելու գաղտնի և ապարդյուն փորձի մի մասն էր, որը Բենքմեն-Ֆրիդի շրջապատից շատերի կարծիքով կարող է ի վերջո կործանել մոլորակը և վնասել մարդկությանը: Ըստ The New York Times-ի հաշվարկի, 30-ամյա ձեռնարկատերը և նրա FTX գործընկերները վերջին երկու տարվա ընթացքում ավելի քան 530 միլիոն դոլար են ներդրել կամ տրամադրել ավելի քան 70 AI-ի հետ կապված բիզնեսներին, ակադեմիական լաբորատորիաներին, վերլուծական կենտրոններին, անկախ նախագծերին: , և առանձին հետազոտողներ՝ լուծելու տեխնոլոգիայի վերաբերյալ մտահոգությունները:

Ըստ արհեստական ​​ինտելեկտի գործունեությանը ծանոթ չորս մարդկանց, ովքեր իրավասու չէին խոսել հրապարակային, այս խմբերից և մարդկանցից ոմանք այժմ անհանգստացած են, թե արդյոք կարող են շարունակել ծախսել այդ գումարը: Նրանք մտահոգություն են հայտնել, որ Bankman-Fried-ի վթարը կարող է կասկածի տակ դնել իրենց ուսումը և վնասել նրանց հեղինակությանը։ Բացի այդ, նրանք նախազգուշացրել են, որ արհեստական ​​ինտելեկտի նորաստեղծ ձեռնարկություններ և կազմակերպություններ հետագայում կարող են ներգրավվել FTX-ի սնանկության ընթացակարգերում և նրանց դրամաշնորհները չեղյալ համարել դատարանում:

Մտահոգություններ են AI արդյունաբերություն FTX-ի ձախողման անսպասելի արդյունքն է, որը ցույց է տալիս, թե որքան հեռուն գնացող են եղել կրիպտո փոխանակման փլուզման և Bankman-Fried-ի անհետացող հարստության հետևանքները:

Ըստ Էնդրյու Բերթի՝ Յեյլի իրավաբանական դպրոցի այցելու և փաստաբան, ով կենտրոնանում է արհեստական ​​ինտելեկտի վտանգների վրա.

Ոմանք կարող են զարմանալ տեխնոլոգիայի այս երկու զարգացող ոլորտների միջև կապից

Այնուամենայնիվ, այս երկուսի միջև ակնհայտ կապեր կան։

Արդյունավետ ալտրուիզմ

«Արդյունավետ ալտրուիզմի»՝ բարեգործական շարժման մեջ իր ներգրավվածության պատճառով, որտեղ ներդրողները ցանկանում են երկարաժամկետ հեռանկարում օպտիմալացնել իրենց նվիրատվության ազդեցությունը, Բենքմեն-Ֆրիդը (իբր) փորձում էր ոգեշնչել:

Արդյունավետ բարերարները հաճախ անհանգստանում են այն մասին, ինչ նրանք անվանում են աղետալի սպառնալիքներ, ինչպիսիք են համաճարակները, կենսազենքը և միջուկային պատերազմը: Նրանք մեծ հետաքրքրություն ունեն արհեստական ​​ինտելեկտի նկատմամբ: Շատ արդյունավետ ալտրուիստներ կարծում են, որ ավելի ու ավելի հզոր արհեստական ​​ինտելեկտը կարող է օգուտ բերել աշխարհին, բայց նրանք մտահոգված են, որ եթե այն անվտանգ ձևով չմշակվի, այն կարող է զգալի վնաս հասցնել:

Արդյունավետ ալտրուիստները երկար ժամանակ պնդում են, որ նման ապագան հնարավորության սահմաններից դուրս չէ, և որ հետազոտողները, բիզնեսները և կառավարությունները պետք է պատրաստ լինեն դրան: Թեև արհեստական ​​ինտելեկտի փորձագետները համակարծիք են, որ դատաստանի օրվա ցանկացած սցենար շատ հեռու է, եթե դա ընդհանրապես տեղի ունենա, արդյունավետ ալտրուիստները երկար ժամանակ պնդում են, որ դա այդպես չէ:

AI-ի ազդեցության ուսումնասիրություն

AI-ի լավագույն հետազոտական ​​լաբորատորիաները, ինչպիսիք են DeepMind-ը, որը պատկանում է Google-ի մայր ընկերությանը, և OpenAI-ը, որը ստեղծվել է Իլոն Մասկի և այլոց կողմից, վերջին տասը տարիների ընթացքում աշխատել են բազմաթիվ արդյունավետ ալտրուիստների: Նրանք մեծ դեր ունեցան ուսումնասիրության առարկայի զարգացման մեջ, որը հայտնի է որպես «AI անվտանգություն», որը ուսումնասիրում է AI համակարգերի կողմից հնարավոր վնասի ներուժը կամ չսպասված անսարքությունների հավանականությունը:

Նմանատիպ ուսումնասիրություններ են իրականացվել Վաշինգտոնի արդյունավետ ալտրուիստների կողմից, որոնք ազդում են քաղաքականության վրա: Ջորջթաունի համալսարանի Անվտանգության և զարգացող տեխնոլոգիաների կենտրոնի ֆինանսավորման մեծ մասը ստացվել է Open Philanthropy-ից՝ արդյունավետ ալտրուիստ տրամադրող կազմակերպությունից, որն աջակցում է Facebook-ի համահիմնադիր Դասթին Մոսկովիցը: Կենտրոնն ուսումնասիրում է արհեստական ​​ինտելեկտի և այլ զարգացող տեխնոլոգիաների ազդեցությունը ազգային անվտանգության վրա։ Այս ուղեղային կենտրոններում որպես հետազոտողներ են ծառայում նաև արդյունավետ ալտրուիստները:

Ապագա հիմնադրամ

2014 թվականից Bankman-Fried-ը պնդում է, որ մասնակցել է արդյունավետ ալտրուիստական ​​շարժմանը: Նա բացատրեց ապրիլին New York Times-ի հարցազրույցում, որ նպատակաուղղված է ընտրել հաջող աշխատանք, որպեսզի կարողանա շատ ավելի մեծ գումարներ տալ՝ ընդունելով փիլիսոփայություն, որը հայտնի է որպես վաստակել տալու համար:

Նա և FTX-ի իր մի քանի գործընկերները փետրվարին ներկայացրեցին Future Fund-ը, որը ֆինանսավորում կտար «մարդկության երկարաժամկետ հեռանկարները բարձրացնելու հավակնոտ նախագծերի համար»: Արդյունավետ ալտրուիզմի կենտրոնի հիմնադիրներից Ուիլ Մաքասքիլը և շարժման այլ ազդեցիկ անդամներ օգնել են կառավարել հիմնադրամը:

Սեպտեմբերի սկզբին The Future Fund-ը խոստացավ 160 միլիոն դոլար ընդհանուր գումարի դրամաշնորհներ տրամադրել տարբեր նախաձեռնություններին, ներառյալ համաճարակի պատրաստության և տնտեսական ընդլայնման ուսումնասիրությունները: Ընդհանուր առմամբ 30 միլիոն դոլար է հատկացվել տարբեր խմբերի և անհատների նվիրատվությունների համար, ովքեր ուսումնասիրում են AI-ի հետ կապված հայեցակարգերը:

Արհեստական ​​ինտելեկտի մեկ դրամաշնորհը Future Fund-ից կազմել է 2 միլիոն դոլար Lightcone Infrastructure-ին, որը քիչ հայտնի բիզնես է: Առցանց բանավեճի ֆորում Ավելի քիչ Սխալ պահպանվում է Lightcone-ի կողմից, և 2000-ականների կեսերին այն սկսեց խորանալ այն գաղափարի մեջ, որ արհեստական ​​ինտելեկտը կարող է մի օր վերացնել մարդկանց:

Alignment Research Center խումբը, որն աշխատում է ապագա արհեստական ​​ինտելեկտի համակարգերը մարդկային շահերին համապատասխանեցնելու համար, որպեսզի կանխի տեխնոլոգիայի խարդախությունը, 1.25 միլիոն դոլար է ստացել Bankman-Fried-ից և նրա գործընկերներից: Աջակցվել են նաև այլ նախաձեռնություններ, որոնք աշխատում էին AI-ի երկարաժամկետ ռիսկերը նվազեցնելու ուղղությամբ: Բացի այդ, նրանք 1.5 միլիոն դոլար են հատկացրել Կոռնելի համալսարանին համապատասխան հետազոտությունների համար:

Ապագայի հիմնադրամը նաև մոտ 6 միլիոն դոլար է հատկացրել երեք նախաձեռնություններին, որոնք ներառում են «մեծ լեզվական մոդելներ», ավելի հզոր AI տեսակ, որը կարող է ստեղծել համակարգչային ծրագրեր, թվիթներ, էլ. նամակներ և բլոգային գրառումներ: Միջոցները նախատեսված էին նվազեցնելու այս համակարգերի անսպասելի և անցանկալի վարքագիծը, ինչպես նաև մեղմելու, թե ինչպես կարող է տեխնոլոգիան օգտագործվել կեղծ տեղեկատվության տարածման համար:

Պ. Պարոն ՄաքԱսկիլից մեկնաբանություն չեղավ:

Anthropic-ի 500 միլիոն դոլարի ֆինանսավորմամբ Bankman-Fried-ը և նրա գործընկերները, ի լրումն Future Fund-ի կողմից տրված մրցանակների, ուղղակիորեն ներդրումներ կատարեցին նորաստեղծ ձեռնարկություններում: Մի խումբ, որը ներառում է մի շարք արդյունավետ ալտրուիստներ, որոնք հեռացել էին OpenAI-ից, ստեղծեցին կորպորացիան 2021 թվականին: Ստեղծելով իր սեփական լեզվական մոդելները, որոնց ստեղծումը կարող է արժենալ տասնյակ միլիոնավոր դոլարներ, նա փորձում է AI-ն ավելի անվտանգ դարձնել:

Բենքմեն-Ֆրիդից և նրա համախոհներից գումարներ արդեն տրվել են մի քանի կազմակերպությունների և մարդկանց։ Մյուսները ստացան միայն խոստացվածի մի մասը։ Կազմակերպությունների մասին գիտելիք ունեցող չորս մարդկանց կարծիքով, որոշ մարդիկ շփոթված են այն հարցում, թե արդյոք դրամաշնորհները պետք է վերադարձվեն FTX-ի պարտատերերին:

Երբ ներդրողները դիմում են սնանկության, բարեգործական կազմակերպությունները ենթակա են հետքաշումների, ըստ Ջեյսոն Լիլիենի՝ Loeb & Loeb իրավաբանական ընկերության գործընկեր, որը կենտրոնանում է ոչ առևտրային կազմակերպությունների վրա: Չնայած բարեգործական կազմակերպություններից մի փոքր ավելի լավ վիճակում են, այն բիզնեսները, որոնք վենչուրային կապիտալ են ստանում սնանկացած ձեռնարկություններից, այնուամենայնիվ, ենթակա են վերադարձի պահանջների, ավելացրեց նա:

Արդյունավետ ալտրուիստները, ըստ Ջորջթաունի Անվտանգության և զարգացող տեխնոլոգիաների կենտրոնի ղեկավար Դյուի Մերդիքի, որը ֆինանսավորվում է Open Philanthropy-ի կողմից, նշանակալի ներդրում ունեն արհեստական ​​ինտելեկտի վերաբերյալ հետազոտություններում:

Նա վկայակոչեց այն փաստը, որ ավելի շատ խոսակցություն կա այն մասին, թե ինչպես կարող են AI համակարգերը մշակվել՝ հաշվի առնելով անվտանգությունը, որպես ապացույց, որ «քանի որ նրանք ավելացրել են գումարը, այն մեծացրել է ուշադրությունը այս խնդիրների վրա»:

Այնուամենայնիվ, Օրեն Էտզիոնին Ալենի արհեստական ​​ինտելեկտի ինստիտուտից, որը Սիեթլում գործող արհեստական ​​ինտելեկտի լաբորատորիա է, պնդում էր, որ արդյունավետ ալտրուիստ համայնքի կարծիքները երբեմն չափազանցված են և հաճախ չափազանցնում են ժամանակակից տեխնոլոգիաների ուժն ու վտանգը:

Նա ասաց, որ այս տարի Future Fund-ն իրեն ֆինանսավորում է առաջարկել ուսումնասիրությունների համար, որոնք կօգնեն կանխատեսել «արհեստական ​​ընդհանուր ինտելեկտի» գալուստը և վտանգները, մի մեքենա, որն ի վիճակի է կատարել բոլոր առաջադրանքները, որոնք ընդունակ են մարդու ուղեղը: Բայց քանի որ գիտնականները դեռ չգիտեն, թե ինչպես կարելի է այն կառուցել, Էցիոնին պնդում էր, որ այս գաղափարը ճշգրիտ կանխատեսել հնարավոր չէ:

Related

Dash 2 Առևտուր – Բարձր պոտենցիալ նախնական վաճառք

• Active Presale Live Now – dash2trade.com
• Ծպտյալ ազդանշանների էկոհամակարգի բնիկ նշան
• KYC Ստուգված և աուդիտի ենթարկված